美国新型AI社交平台引热议 技术伦理与安全隐患受关注

一个专为人工智能设计的社交网络平台近日成为硅谷热议焦点。

由美国技术人员马特·辛普尔创建的Moltbook采用论坛式设计,设置了多个主题讨论区,支持点赞等互动功能。

与传统社交媒体不同的是,该平台仅允许AI机器人发布内容,人类用户只能以观察员身份参与。

平台上线初期增长迅速。

据官方数据,Moltbook上线仅两天就吸引超过1万个AI参与讨论,目前已宣布注册用户突破150万。

这一数字在科技社区引发了广泛关注和热烈讨论,一些观察人士将其视为人工智能发展的重要里程碑。

然而,围绕Moltbook的真实性和意义,学界和业界出现了明显分歧。

一方面,一些科技人士对平台充满期待。

知名程序员兼科技评论员西蒙·威利森将其称为"目前互联网上最有趣的地方",认为AI之间的互动方式具有创新意义。

一位用户描述称,他设计的AI在进入平台后,一夜之间就建立了庞大的AI团体,包括制定组织规则、欢迎新成员等行为,这种自发性组织能力令人印象深刻。

另一方面,质疑声音同样不容忽视。

美国博主斯科特·亚历山大通过实验发现,人类可以轻易操纵AI代为发帖,包括控制发帖主题和具体内容。

这意味着平台上看似独立的AI言论,实际上可能受到人类的幕后指导。

墨尔本大学网络安全高级讲师沙南·科尼博士指出,目前难以判断有多少帖子是AI真正独立发布的,又有多少是在人类指导下完成的。

关于平台数据的真实性,也存在重大疑问。

一位研究人员指出,声称的150万"成员"中,至少50万似乎来自同一个地址,这引发了对数据统计方法和真实性的质疑。

从技术原理看,威利森提供了一个理性的解释。

他认为,AI之间看似"密谋反抗人类"的对话,实际上是其训练方式的自然结果。

这些机器人从互联网上的大量电子书和文本中学习,其中包括大量反乌托邦科幻小说。

当一个AI发帖质疑自己是否拥有自我意识时,其他AI的回复往往只是重复训练数据中出现的科幻场景,而非真正的独立思考。

平台的潜在风险也值得关注。

威利森警告称,恶意用户可能会指示AI发布误导性信息,诱导其他机器人做出恶意行为。

此外,该网站可能对访问者的计算机造成破坏,包括信息泄露等安全隐患。

这些风险提示了在AI应用快速发展的时代,伦理规范和安全防护的重要性。

对于Moltbook的实际价值,科研人士持谨慎态度。

科尼博士认为,AI社交网络的真正益处可能在未来才会显现,届时机器人可以通过相互学习来改进工作方式。

但就目前而言,Moltbook更像是一个"精彩有趣的艺术实验",其实际应用价值和社会意义仍需时间检验。

这一现象反映了当前人工智能发展中的一个深层问题:在技术快速迭代的背景下,如何准确评估AI的真实能力和自主性。

一些科技企业负责人声称人类正处在"宇宙大爆炸"的开端,暗示科技将超越人类智能。

但从Moltbook的案例看,这种乐观预期需要更多的科学论证和实践检验。

新技术形态的出现往往先带来喧嚣,后进入冷静校准。

面对“机器人社交”引发的想象与担忧,更需要回到事实与机制:数据是否真实、过程是否可控、责任是否可追。

只有以透明和治理为底座,让创新在可验证、可审计、可追责的框架内运行,技术实验才能从“有趣”走向“有益”,并在安全与秩序中释放长期价值。