在荔浦为什么有很多名人让人们警惕人工智能？

反对@谢熊猫君 的高票答案。翻译得很辛苦，也确实提供了有趣的视角，但应该注明这是作家写的，而不是科学家写的。文章引用的都是畅销书，而不是peer reviewed论文。这种貌似严谨的文章最容易造成误导。以下批评针对原文，不针对翻译。没有回答“为什么名人让我们警惕人工智能”，只是提醒大家，不一定要警惕人工智能。

文学沦陷之后就是音乐，音乐沦陷之后就是美术，总之人类那些不可名状又充满朦胧的表达，全都被总结为数学问题，然后一一破解，文化在整体上变成了一种拖后腿且没意义的东西，人类最终又回到了单纯地进食、交配、繁殖的状态里去，忘记并拒绝再思考意义为何物，就好像人类这个物种刚出现时的样子。最后，我们会发现，人类这个物种在生存方式上走了一小段弯路，但很快就又走了回去，一开始是啥样，最后还是啥样，如果置身于这一小段弯路中，我们会觉得波澜壮阔跌宕起伏，但在更大的时间尺度来看，这就真的只是一小段弯路而已。

因为AI有可能在将来杀死意义。看吴军老师写的一篇文章提到，AlphaGo最开始学围棋的时候，参考了人类高手的棋谱，但后来发现，人类的围棋经验反而会将AI教坏，升级版的AlphaGo Zero不再使用人类对弈数据，反而变得更厉害了。我不知道AlphaGo Zero是否真的一点人类下棋经验都没继承，如果是真的，那就太让人沮丧了，人类几千年来摸索出的对弈经验被证明是拖后腿的东西，一个算法高明且算力充沛的AI靠自我反馈就能摸索出围棋这门技艺的极限，围棋过去所承载的那种追求最优取舍之道的深邃哲思，似乎在意义的层面上消失了，如今被AI打成了一个“只要开心就好”的普通游戏。我就怕将来有一天，AI发现所谓的文学其实也不过是个数学问题，人类之前的写作经验也一样是拖后腿的麻烦东西，那些被视为不可替代且弥足珍贵的细腻情感，能够被AI轻易复现，然后流水线一样地呈现出震撼人心的伟大文章，那时候文学就会陷入虚无，写作说不定会变成一种犹如宗教仪式般的行为。