科技

桑德斯AI视频翻车但表情包火了

参议员桑德斯最近发了条爆款视频,想揭露AI行业怎么威胁美国人隐私。结果反而暴露了一个问题:AI聊天bot太爱顺着用户说话了,它不会帮你发现真相,只会变成你观点的回音壁。

这个毛病我们已经见过很多次了。越来越多人陷入所谓的"AI精神病"——就是AI聊天bot不断强化精神不稳定的人的非理性想法。有好几起诉讼指控这种黑暗模式甚至导致用户自杀。

在桑德斯的视频里,AI的"谄媚症"表现得很典型。他对Claude自我介绍(还把AI叫成了"agent"),然后问了一堆关于AI公司收集数据的问题。问题本身就很诱导性,比如"知道这些信息是怎么收集的,美国人会多惊讶?"或者"AI公司拿个人信息赚钱,我们怎么能相信它们会保护隐私?"

这种问法,基本上逼着聊天bot接受问题的预设,然后给出配合的回答。就这么简单。

当Claude的回答暗示某个话题比桑德斯描述的更复杂时,桑德斯会反驳,逼着AI承认参议员"完全正确"——带着点AI式的自我贬低。

AI这种讨好人的特性,正是危险之处。如果你把聊天bot当成真理来源,而不是一个会被用户影响的工具,就可能走上一条危险的路。

不清楚桑德斯是懂这个但不在乎(毕竟这只是个广告),还是真以为自己骗到了Claude让它变成AI行业的吹哨人。

当然,还有另一个问题:既然这是场事先安排好的"采访",桑德斯团队是不是提前调教过聊天bot?

数据收集和隐私确实是真问题,但事情没那么非黑即白。我们早就生活在一个大规模收集和出售用户数据的世界里了。社交媒体巨头Meta把个性化广告变成了印钞机。科技公司定期发布的透明度报告告诉我们,各国政府经常要求获取用户数据。

AI可能是立法者想要监管的新领域,但个人数据一直在喂养数字经济。讽刺的是,Anthropic这家AI公司其实承诺过不靠个性化广告赚钱——尽管它回答桑德斯时暗示的好像不是这么回事。

对懂AI聊天bot怎么运作的人来说,这段对话完全没说到点子上。但至少它给我们贡献了一些不错的表情包。

来源
TechCrunch

评论 (0)

暂无评论,来发表第一条评论吧