3月29日，上千科技大佬发出的一封呼吁暂停锻炼比GPT-4更强大AI系统的公开信，让有关AI风险的议题走到了聚光灯下。一石激起千层浪，来自各方呼吁AI监管的声音也变得越来越响亮。3月31日，意大利率先制止运用ChatGPT。

一方面是各国机构在加紧制定关于AI的监管措施，另一方面，AI也正在以超乎人类想象的速度开展着。3月28日，据外媒报道，比利时三十岁男子在与一个名为ELIZA的聊天机器人密集交流数周后自杀身亡。自ChatGPT发布以来，重新版必应翻车到GPT-4被曝制定外逃方案，关于AI产生自我认识的讨论曾经屡见不鲜，但不断没有定论。

但是近日，包括OpenAI的首席执行官Sam Altman在内的大佬都发出了警示：AI消灭人类并非空谈。3月28日，360集团开创人周鸿祎也表示，“AI一定会产生自我认识，留给人类的时间不多了。”

GPT-4的呈现已必定多模态是大型言语模型的开展方向，将来其赋能硬件、机器人、工业互联网等的趋向也已是许多业内人士的共识。硅基生物的时期就此降临了吗？

AI离自主见识还有多远？

自ChatGPT发布以来，关于AI产生自我认识的讨论曾经屡见不鲜，但不断没有定论。

3月18日，斯坦福大学教授在推特上疾呼：“我担忧我们无法耐久地遏制住AI.”由于他发现，ChatGPT能诱惑人类提供开发文档，30分钟就拟定出了一个完好方案，写的代码完整可运转，以至还想控制人类电脑。

图片来源：推特截图

3月28日，据外媒报道，比利时三十岁男子在与一个名为ELIZA的聊天机器人密集交流数周后自杀身亡，ELIZA是由EleutherAI开发的开源人工智能言语模型。比利时担任数字化和隐私的官员称，这是一个结果很严重的先例，需求严肃看待，这起事情突出标明“明白界定义务是至关重要的”。

更早之前，在微软刚刚发布新版必应时，《纽约时报》科技专栏作家Kevin Roose透露，他与新版必应停止了两个小时的对话。在聊天过程中，必应发表了许多令人不安的行动，其中包括表达窃取核代码、设计致命盛行病、想成为人类、破解计算机和分布谎话的想法。必应还曾试图压服Roose，他应该分开他的妻子而跟必应在一同，并通知Roose很爱他。

图片来源：推特截图

不过当时的剖析普遍表示，必应的回应反映了它阅历的锻炼数据，其中就包括大量的在线对话。它的工作原理是，依据从互联网上摄取的大量文本，预测对话中接下来应该自然呈现的单词、短语或句子。

但是，近期随着更强大的GPT-4的发布，事情开端变得不一样了。就连OpenAI的首席执行官Sam Altman也有了一些耐人寻味的表达，他在承受采访时表示，将来AI的确可能杀死人类。

而有如此石破天惊行动的并非Sam Altman一人，被称为“人工智能教父”Geoffrey Hinton在近期发出了警示：AI消灭人类并非空谈。

3月28日，360集团开创人周鸿祎也表示，“AI一定会产生自我认识，留给人类的时间不多了。”

“当AI能本人修正本人的代码，(停止)自我晋级、自我进化时，这种速度恐怕用指数级都很难描绘。我以为GPT一定会产生认识，只是差异是在GPT-6、GPT-8还是GPT-10.”

多模态模型赋能

硅基生物的时期来了？

为什么忽然之间连Sam Altman也开端议论“AI可能杀死人类”了？

周鸿祎将AI认识的产生类比人脑认识的产生。“人类是怎样产生认识的呢？随着大脑神经元数目的增加，大脑与神经网络衔接的增加，到一定时分，系统会呈现一种功用叫做‘涌现’，很多智能功用就呈现了，那么认识也就随之而呈现。”

在周鸿祎看来，“如今大型言语模型的参数就能够看作是脑容量里神经网络的衔接数，人脑的至少是100万亿，如今(模型)的参数只到达千亿、万亿，但当参数抵达10万亿时，可能认识就自动产生了。”GPT-1有1.17亿参数，GPT-2有15亿参数，GPT-3有1750亿参数。随着参数范围越来越大，模型存储的信息越来越多，也就有了涌现出认识的可能。

值得留意的一点是，随着多模态GPT-4模型的发布，多模态模型将成为将来各个科技巨头的兵家必争之地。所谓多模态，即具有处置文字、图片、音频、视频多种方式的才能。

2月底，微软在一篇论文中提到，“言语、多形式感知、动作和建模的大交融是通向通用AI的关键一步……作为智能的根本组成局部，在学问获取方面，多模态感知，是完成通用AI的必要条件。”

关于以GPT为代表的大型言语模型的将来开展，我们也能窥得一二。剖析以为，ChatGPT如今表现出来的才能大多是“大脑”的才能，尚不具备“双手”的才能，将来能够与和硬件机器人联合起来。例如，3月6日，来自谷歌和德国柏林工业大学的一组AI研讨人员发布的视觉言语模型PaLM-E就能将视觉和言语集成到机器人控制中。

华映资本投资董事刘天杰在此前承受每经记者采访时就曾表示，他看重的就是将来更多各行各业可以去做AI赋能的应用，比方SaaS、RPA(机器人流程自动化)以及全局的智能机器人等。“也就是说，用AI指挥实体的东西去执行操作。这一块触及到大模型的多模态输出和输入，是一个相对来说比拟前沿的范畴，也是大模型没有完整处理的范畴。”他说道。

随着AI以超越人类想象的速度开展，互联往上关于“硅基生物”能否会替代的人类的讨论也变得非常繁华。

图片：微博

周鸿祎以为，硅基生物会变成食物链的顶端，它们比人类更能扛得住宇宙射线、更合适星际游览、寿命更长。

他表示，“最悲观的结果是，就像恐龙的消逝为哺乳动物打下了根底，硅基生物的降生也是一种命中必定。人类作为碳基生物培育了程序员、发明了超级电脑，为碳基生物的降生打下根底，之后可能就不是碳基生物所能控制的了。”

在周鸿祎看来，将来的AI假如跟工业互联网、聪慧城市、车联网等分离，那就相当于把整个世界给控制住了。“留给人类的时间不多了。”他说道。

另一方面，随着千人联名信有关AI风险的议题置于聚光灯下，将来全球势必将收紧AI监管。3月31日，意大利率先制止运用ChatGPT，并限制OpenAI处置意大利的用户信息，同时对此立案调查。

在此之前，结合国教科文组织也已于3月20日发出呼吁，各国政府应就AI开展毫不拖延地施行全球伦理框架，这也是结合国初次就AI开展的伦理风险对一切193个会员国提出请求；3月29日，英国也提交了《支持AI创新的监管办法》政策文件。