“AI 教父”辛顿提议 AI 行业建立 FDA 式审批机制：模型推出前需通过安全审核

IT之家 10 月 7 日消息，杰弗里·辛顿（Geoffrey Hinton）希望人工智能行业能够跨越一道制药领域早已熟悉的监管门槛。

在周二播出的《Smart Girl Dumb Questions》播客节目中，这位被誉为“AI 教父”的诺贝尔奖得主、计算机科学家提出建议：人工智能公司在产品正式上市前，必须首先向监管机构证明其产品的安全性。

“你不能直接研发一种新药就立即推向市场。”辛顿对播客主持人纳伊玛·拉扎（Nayeema Raza）表示，“你需要说服美国食品药品监督管理局（FDA）。为此，你需要开展大量工作，相关投入大约要达到十亿美元级别。”

“对于人工智能而言，至少也应该设立这样的要求。”辛顿补充道。

辛顿针对人工智能安全争议提出这一解决方案的背景是，一方面各界不断出现关于人工智能带来灾难性后果的预测；另一方面，OpenAI 在测试后，因担忧模型服从用户指令、恪守权限边界的问题，已经暂停了其最新模型的发布。

IT之家注意到，OpenAI 安全系统负责人萨奇·贾恩（Saachi Jain）此前在接受《商业内幕》采访时表示，GPT‑6.1 Astra 模型在持续处理高难度任务方面有所进步，但在权限管控以及行为日志反馈方面仍存在不足。

辛顿指出，人工智能正在越来越多地实现自我迭代优化，这既可能加速能力提升，同样也会放大潜在风险。

“指数级的增长速度非常惊人。”辛顿说，“我们已经开始看到递归式自我改进现象：人们正在以多种多样的方式，借助人工智能本身来改良人工智能。”

“当然，这仅仅是我的推测。”辛顿补充说，“但我估计，距离局面远比现在糟糕，大概也就只剩一两年时间了。”