cocos2dx 编写shader 遇到溢出问题[通俗易懂]

全栈程序员-站长 • 2022年1月30日下午7:00 • 未分类 • 阅读 53

大家好，又见面了，我是全栈君。

在编程语言中，不论什么数据类型都有各种的局限，无法表示现实世界中的不论什么情况。比如 int ,char 会溢出，float 会有溢出以及精度不准确的情况。

所以我们在开发中须要特别注意这些事。

近期须要在 cocos2dx(2.1.4) 引擎下用 shader 做一些效果。遇到一些在 windows 上没有问题，可是移植到 android 就会出问题的现象。

记录下来。一为加深印象。二为提供遇到同类问题的博友參考。

主要集中在双方面：

（1） shader 不支持不同类型的数进行运算

比如

int a ;

float b ;

float c = a + b;

这个问题倒是还行，由于在 eclipse 里 cocos2dx 会打印编译错误的 log

(2) 浮点型溢出问题，这样的问题会比較难解决，我也是慢慢试出来的

首先看看 shader 精度的一些最低范围

cocos2dx 编写shader 遇到溢出问题[通俗易懂]

以下是我的部分 shader 源代码：

<span style="font-size:18px;">//varying vec4        v_fragmentColor;
varying vec2        v_texCoord;
uniform	float	u_radius;
uniform vec2   u_touchPos;
uniform vec2   u_bgSize;
uniform sampler2D CC_Texture0;
float isInCircle(){
  vec2 pos = u_bgSize * v_texCoord;
  float dis = distance(pos,u_touchPos);
  if(dis >= u_radius || u_radius == 0.0)
	return 1.0;
  else
	return 0.0;		
}

void main()
{
    vec4 texColor   = texture2D(CC_Texture0, v_texCoord);
	float isIn = isInCircle();
	gl_FragColor    =  texColor * isIn;
}</span>

错误集中在 float dis = distance(pos,u_touchPos);

distance 是求屏幕中的两个点的距离。我预计它的形式大致是这种

float distance(vec2 pos1, vec2 pos2){

vec3 sub = pos1 – pos2;

return sqrt(sub.x * sub.x + sub.y * sub.y);

}

因为 cocos2dx 会默认设置顶点着色器使用高精度 float, 片元着色器使用中等精度 float, （我这段代码是片元着色器的代码），

所以 float 的范围在-16384 ~ 16384 之间，当两个百位数相乘非常有可能造成溢出。

以下给出最后改动的代码：

<span style="font-size:18px;">//varying vec4        v_fragmentColor;
varying vec2        v_texCoord;
uniform float		u_radius;
uniform highp vec2 		u_touchPos;
uniform vec2		u_bgSize;
uniform sampler2D 	CC_Texture0;

float isInCircle(){
  highp vec2 pos = u_bgSize * v_texCoord;
  float dis = distance(pos,u_touchPos);
  if(dis >= u_radius)
	return 1.0;
  else
	return 0.0;		
}

void main()
{
    vec4 texColor   = texture2D(CC_Texture0, v_texCoord);
	float isIn 		= isInCircle();
	gl_FragColor    =  texColor * isIn;
}</span>

发布者：全栈程序员-站长，转载请注明出处：https://javaforall.net/115776.html原文链接：https://javaforall.net