在人工智能（AI）领域的一次重要突破中，谷歌旗下子公司DeepMind的研究人员提出了一项引人瞩目的观点：AI系统的开放性是实现超级智能（ASI）的关键所在。他们指出，单纯依靠扩大数据集和计算资源，并不能够直接通向超级智能的彼岸，而AI系统必须拥有自主产生新知识并改进学习能力的开放式特性。
DeepMind的研究团队将“开放式”AI系统定义为能够不断产生新的、难以预测的且具有学习意义的物件的系统。这种开放性不仅体现在系统生成内容的新颖性上，更在于这些内容能否为观察者带来学习价值。正如研究中所提到的，对于没有航空知识的人来说，飞机的设计是全新的，但对于航空工程学生来说，这些设计则是新的学习材料。
为了更具体地阐述这一观点，研究团队举例说明了开放系统的实际应用及其局限性。AlphaGo，作为围棋领域的AI冠军，能够不断制定新的策略来击败对手，但这一切都是在人类设定的规则框架内进行的。虽然AlphaGo展示了AI系统的开放性，但它在科学和技术创新方面的能力仍显不足。同样，AdA代理和POET系统虽然在复杂环境中表现出了出色的适应性，但它们的开放性同样受限于环境设置的边界。
然而，DeepMind的研究人员并未因此止步。他们指出，现有的基础模型，如大型语言模型，虽然在静态数据集上训练，但通过与开放式方法结合，如强化学习、自我改进、自动生成任务和进化算法等，这些模型有可能引领AI系统走向更加开放的未来。这种结合将使得AI系统能够在不断学习和进化的过程中，自主产生新的知识和策略。
然而，开放式AI系统的发展也伴随着安全风险。研究人员强调，所产生的物件必须始终能够被人类所理解和控制，以防止超级智能AI失控。因此，安全性必须从一开始就被内置到开放式系统的设计中。
DeepMind联合创始人Demis Hassabis在一年前曾暗示，谷歌DeepMind正在探索将AlphaGo等系统的优势与大型模型的知识相结合的可能性。虽然目前发布的Gemini模型尚未展现出突破性的创新，但这一方向的研究无疑为AI领域带来了新的希望。
AI旋风认为，DeepMind的这项研究为AI领域的发展提供了新的思路。随着AI技术的不断进步，开放式AI系统有望在未来实现科学和技术领域的重大突破。同时，这也对AI技术的安全性和可控性提出了更高的要求。我们期待看到更多的创新成果在AI领域涌现，同时也希望相关研究人员能够充分考虑到技术发展的潜在风险，确保AI技术的发展始终在人类的掌控之中。
相关文章
