OpenAI首席技术官称,ChatGPT有必要受到监管

日前,OpenAI的首席技术官米拉·穆拉蒂(Mira Murati)在相关采访中表示,“ChatGPT应该受到监管,因为它可能被‘危险分子’利用”。

1.jpg

相关资料显示,穆拉蒂领导DALL-E和ChatGPT团队,其中DALL-E是OpenAI于2021年1月6日发布的模型,能够从文本生成图像,打破了自然语言与视觉的次元壁。而ChatGPT自去年12月开始邀请公众试用以来,已经受到了诸多关注,简单来说它是一个用大量数据训练出来的语言模型,有着一定程度对答如流的能力。

2.jpg

根据谷歌趋势显示,在1月的绝大部分时间里,ChatGPT在热门搜索词中超过了比特币,而其背后的OpenAI不仅获得了来自微软100亿美元的新一轮投资、目前估值约为300亿美元,还使得竞争对手谷歌发布“红色代码”,着手应对ChatGPT的崛起对其搜索引擎业务的威胁。


在此次采访中,针对“ChatGPT解决了什么问题”的提问,穆拉蒂表示,目前ChatGPT还处于“研究回顾”(research review)阶段,“我不能笃定地说它解决了什么问题,但我认为它的出现将有可能真正彻底改变我们的学习方式。比如教室里有30个学生,每个人都有不同的背景、学习方式,并且每个人都在接受基本相同的课程,但借助ChatGPT等工具,你可以无休止地与模型对话,以适合自身理解水平的方式理解概念。它具有帮助我们进行个性化教育的巨大潜力”。

1804532524001.jpg

但针对部分学校禁用ChatGPT的现状,穆拉蒂指出,尽管在开放这项技术时意在推动通用智能、具有高可靠性的通用能力,但当其面向具有不同背景、专业领域知识的人开放时,难以避免会出现令人惊讶的积极效应和消极效应。因此面对AI可能被滥用的现实,穆拉蒂认为,“对于OpenAI和像我们这样的公司来说,以一种可控和负责任的方式将其引入公众意识非常重要。 但我们只有一小群人,我们需要对这个系统进行更多的投入,以及寻求监管机构和其他所有人的介入。”


穆拉蒂还表示,“目前政策制定者和监管机构的介入并没有为时过早,考虑到这些技术将产生的影响,每个人都参与进来(进行监督)是非常重要的。”


【本文图片来自网络】

踩(0)

最新文章

相关文章

大家都在看