我还真的挺好奇,纯用简中语料训练出来的AI会是什么样子。更有意思的是,这其实是判断现在的LLM技术路线是否真能产生机器智能的一个判决性实验:用正常语料训练出来的AI,再聪明也可能只是在模仿;用垃圾语料训练,训练着训练着AI突然意识到“靠这他娘的是在扯淡啊”,就说明AI真的有智能,可以自主思考了。这简直是个能写一部科幻小说的脑洞,应该能拿(不在中国主办的)雨果奖。
@normanzxy 突然觉得人类很像被训练的AI,在简中是否能发现环境很扯淡是简中人的图灵测试
@normanzxy 还真有这样的研究了:https://www.eddieyang.net/research/censorNLP.pdf 用维基百科和百度百科训练出来的AI对很多概念的理解很不一样
@normanzxy 不知道AI的逻辑理性中,能否被强行塞入“绝对恐惧+绝对忠诚”?