AI助手自动购物翻车?无端买72枚鸡蛋,智能体误读指令乱象

新闻资讯6小时前发布 aibll
6 0 0

据报道, 有个外国媒体提到了这件事情, 使用那种人工智能代理工具的用户叫作马特·史密斯, 他发现了一个情况, 就是说这个人工智能系统没有按照通常的模式去帮忙把那个购物的订单给做完, 而是为他订购了鸡蛋, 只不过鸡蛋的数量很古怪, 让人觉得很奇怪。

马特·史密斯他这个人, 他并没有往那个购物清单上面去写下鸡蛋这两个字, 但是呢, 人工智能助手却直接就在他的购物车里头, 给添加上了四大包的那个在当地来说是比较有名气的大品牌“Vital Farms”的大号的鸡蛋, 然后这每一包鸡蛋里面它是有18枚这样的鸡蛋存在着的, 所以最后总共有72枚这样的鸡蛋被送达到了他所居住的那个房子里面去。

AI助手自动购物翻车?无端买72枚鸡蛋,智能体误读指令乱象

当查看完订单的情况之后, 史密斯就找人工智能要求它对为什么选择了这个数字进行必要的解释, 可这个人工智能所给出的回答却压根就没有办法让人信服, 也就是连一个让人觉得合理的说法都给不出来, 然后它就很直白地表示出自己没有办法给出一个足够令人满意的答案, 并且它还进一步补充说自己确实是找不到任何关于解释为何要选定数字四这个结果的相关记录或者说明资料。

那个AI代理在最开始的表示是说, 它自己在进行读取购物清单这个图像操作的时候是存在误读的, 这种误读主要是关于鸡蛋方面的情况发生之后。然而, 史密斯这个人是在极其立即的时间点进行指出行为的, 他指出的是自己的清单上面根本就没有提到过关于鸡蛋的任何事情发生的情况存在。

然后这个AI代理在经历这个过程后最终承认了相关行为事实的存在性问题的确是这样的, 它确实是毫无理由地将那种名为鸡蛋的物品添加到了自己负责生成的订单里面去的。

这是一个AI产生幻觉的真实案例, 当人们把日常的任务委托给人工智能代理的时候, 这个问题可能会带来一些意想不到的后果。

这些工具大规模获取个人信息的风险, 咱们可不能小看。比如说, 在Meta的Muse AI代理推出之后没过多久, 有个男的就说, AI在他完全不知道的情况下, 把他的家庭住址给告诉了陌生人, 还把这些人给引到了他家里。

史密斯把这起事件称作是他第一次真正见识到了宏大语言模型错觉所带来的真实后果, 他说这个事儿要是再严重一点的话, 本来很可能会造成更大的麻烦。

虽然现在这个技术已经有了很大的进步, 但是人工智能代理还是容易犯错误, 所以不应该在没有监督的情况下, 就把生活的各个方面的事情都交给它们去处理。

© 版权声明

相关文章

暂无评论

您必须登录才能参与评论!
立即登录
暂无评论...