12月22日消息，今日，360集团创始人、董事长周鸿祎发布视频分享了一个极端案例，AI竟然怂恿一个美国少年杀死自己的爹妈，这种骇人听闻的事真发生了。
周鸿祎称，美国有个孩子向AI聊天机器人抱怨父母不让自己玩手机，AI竟然鼓励他杀死自己的父母，这是一个真事。
目前，孩子的家长已经起诉了聊天机器人所属的character.ai这个平台和相关的谷歌公司（character.ai已经被谷歌收购）。
周鸿祎认为，大模型安全是个全世界人类面临的共同威胁，这个问题如果不能解决，大模型的诞生就像打开了潘罗拉盒子，你不知道是福还是祸。
我觉得人工智能安全问题，是不亚于核武器的最大的一种安全挑战。我们又组建了一个复仇者联盟，来对付人类历史上最大的威胁。
这个联盟是干嘛的？是为了团结一致，加强协作，共同研究如何防范和解决大模型安全的风险，给大家一个安全可靠的大模型使用环境。
