Fixed SIMD smoothstep

Author: christophe-lunarg

glm/simd/geometric.h

@@ -102,17 +102,23 @@ GLM_FUNC_QUALIFIER glm_vec4 glm_vec4_reflect(glm_vec4 I, glm_vec4 N)
 
 GLM_FUNC_QUALIFIER __m128 glm_vec4_refract(glm_vec4 I, glm_vec4 N, glm_vec4 eta)
 {
-	glm_vec4 const dot0 = glm_vec4_dot(N, I);
-	glm_vec4 const mul0 = _mm_mul_ps(eta, eta);
-	glm_vec4 const mul1 = _mm_mul_ps(dot0, dot0);
-	glm_vec4 const sub0 = _mm_sub_ps(_mm_set1_ps(1.0f), mul0);
-	glm_vec4 const sub1 = _mm_sub_ps(_mm_set1_ps(1.0f), mul1);
-	glm_vec4 const mul2 = _mm_mul_ps(sub0, sub1);
-
-	if(_mm_movemask_ps(_mm_cmplt_ss(mul2, _mm_set1_ps(0.0f))) == 0)
+	// k = 1.0 - eta * eta * (1.0 - dot(N, I) * dot(N, I));
+	// if (k < 0.0)
+	// 	R = genType(0.0);       // or genDType(0.0)
+	// else
+	// 	R = eta * I - (eta * dot(N, I) + sqrt(k)) * N;
+
+	glm_vec4 const dot0 = glm_vec4_dot(N, I);					// dot(N, I)
+	glm_vec4 const mul0 = _mm_mul_ps(eta, eta);					// eta * eta
+	glm_vec4 const mul1 = _mm_mul_ps(dot0, dot0);				// dot(N, I) * dot(N, I)
+	glm_vec4 const sub1 = _mm_sub_ps(_mm_set1_ps(1.0f), mul1);	// (1.0 - dot(N, I) * dot(N, I))
+	glm_vec4 const mul2 = _mm_mul_ps(mul0, sub1);				// eta * eta * (1.0 - dot(N, I) * dot(N, I))
+	glm_vec4 const sub0 = _mm_sub_ps(_mm_set1_ps(1.0f), mul2);  // 1.0 - eta * eta * (1.0 - dot(N, I) * dot(N, I))
+
+	if(_mm_movemask_ps(_mm_cmplt_ss(sub0, _mm_set1_ps(0.0f))) == 0)
 		return _mm_set1_ps(0.0f);
 
-	glm_vec4 const sqt0 = _mm_sqrt_ps(mul2);
+	glm_vec4 const sqt0 = _mm_sqrt_ps(sub0);
 	glm_vec4 const mad0 = glm_vec4_fma(eta, dot0, sqt0);
 	glm_vec4 const mul4 = _mm_mul_ps(mad0, N);
 	glm_vec4 const mul5 = _mm_mul_ps(eta, I);

test/core/core_func_geometric.cpp

@@ -181,6 +181,13 @@ namespace refract
 			Error += glm::all(glm::equal(C, glm::dvec2(0.0, -1.0), 0.0001)) ? 0 : 1;
 		}
 
+		{
+			glm::vec4 A(0.0f, -1.0f, 0.0f, 0.0f);
+			glm::vec4 B(0.0f, 1.0f, 0.0f, 0.0f);
+			glm::vec4 C = glm::refract(A, B, 0.5f);
+			Error += glm::all(glm::equal(C, glm::vec4(0.0, -1.0, 0.0f, 0.0f), 0.0001f)) ? 0 : 1;
+		}
+
 		return Error;
 	}
 }//namespace refract