类ChatGPT很难解的一个难题:忽略重要的“弱信号”
看到有人分析ChatGPT避免了“信息茧房”,凭我多年情报分析工作的经验,我的观点是,正好相反。ChatGPT有效的信息展示位置,很可能导致一个结果,信息单方面叠加,最终导致结论不再中立,而是不断向某个方向便移。而且在用户和后台加工的配合下,这种便移的速度可能很快。尤其是针对一些敏感话题,很可能由于单方面信息的不断叠加,而忽略了更为重要的反方向的“弱信号”,从而错失了纠偏的机会。
网络上的“百科”可以理解为一个简化版、慢效率的小模型ChatGPT。例如,我们在百度百科搜索“丁宁”,你会发现,入狱前后,是截然不同的两个人。
在入狱前,“民革党员,企业家,应用化学专家,高级化学工程师,计算机工程师。 曾任钰诚集团董事会执行局主席”,还有:
取得的个人成就和论文有:
而入狱后,不再有消息更新,直到被判刑。宣判后的内容又只剩下了负面内容。
对钰诚国际控股集团有限公司以集资诈骗罪、走私贵重金属罪判处罚金人民币18.03亿元;对安徽钰诚控股集团以集资诈骗罪判处罚金人民币1亿元;对丁宁以集资诈骗罪、走私贵重金属罪、非法持有枪支罪、偷越国境罪判处无期徒刑,剥夺政治权利终身,并处没收个人财产人民币50万元,罚金人民币1亿元。
前后就像是反差很大的两个人,这明显不科学。很明显,入狱前的负面信息,被略掉了,而入狱后的正面信息,也变得少之又少。
与百科相比,类ChatGPT 更新周期更快,由于显示空间限制,更容易将“弱信号”略掉,仅剩下“主流声音”。“弱信号”未能提前发现,“强信号”不断累积、叠加、演进,ChatGPT出现片面误解的可能性就会增加。