生物科学门户网站
BIO1000.COM

研究人员正在寻找人类维持对人工智能的控制的方法

人工智能(AI)旨在使我们脱颖而出。不过,我们不应该担心,因为最近发表的一项研究发现了人类如何能够在依赖AI的系统中处于事物之上。

洛桑联邦理工学院(EPFL)研究人员进行的这项研究解释说,尽管AI总是会找到绕过人为干预并建立独立解决方案的方法,但操作员必须寻找使自己保持在机器上方并加以预防的方法。从规避人的命令。

研究人员发现的解决方案是改变规则的中期:借用一个心理术语,而不是惩罚人工智能以学习过程并获得独立性,操作员认为它们比机器领先一步,并通过移动谚语来保持领先胡萝卜。

在AI中,对机器进行编程以从其任务中学习-完成一项活动,观察发生的情况,调整其行为并将其应用于下一个动作。这种重复过程就是所谓的“学习”。而且,该过程被编程为与人类的互动尽可能少,并最终寻求一种可以完全独立的情况。

EPFL分布式编程实验室的合著者Rachid Guerraoui解释说:“ AI将始终努力避免人为干预,并创造一种无法制止的局面。”

然后,该团队解释说,挑战AI的目标不是打断机器人,而是以确保不会打断或完全避免其学习过程的方式对机器人进行编程。

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。