硬核观察 #763 AI 机器人遇到“提示注入”攻击

AI 机器人遇到“提示注入”攻击

研究人员发现了一种被称为“提示注入”的技术,可以将 AI 机器人重定向到重复令人尴尬和可笑的短语。一些推特用户在这个发现之后,劫持了一个在 GPT-3 语言模型上运行的自动推特机器人,从而导致该 AI 机器人被迫关闭。注入式攻击的概念并不新鲜,如 SQL 注入、XSS,但防御“提示注入”的困难来自于 AI 没有正式的语法,因而不像其他注入攻击那样纠正语法就能防御大部分攻击。

消息来源:ARS Technica

老王点评:我想,AI 或许很快就会“进化”出防御的能力。

Ubuntu 支持更多来自中国的 RISC-V 板卡

除了支持赛昉的昉·星光和全志的哪吒 RISC-V 板卡外,Canonical 工程师也在努力为下个月的 Ubuntu 22.10 添加更多的 RISC-V 板卡支持。他们正在为一款起价为 16.90 美元的 RISC-V 板卡 Sipeed Lichee RV 提供支持。它是一块带有 M.2 接口的计算模块板,可以连接到载体板。它使用全志 D1 SoC,采用单核玄铁 C906 64 位 RISC-V 处理器,运行频率仅为 1.0GHz。这是一块非常便宜但很慢的板卡,适用于物联网领域。

消息来源:Phoronix

老王点评:看起来 Canonical 越来越重视 RISC-V 了,而且,中国的 RISC-V 厂商进展也不错。

Craigslist 的界面和 25 年前一样

分类广告网站 Craigslist 自 1995 年上线以来,其页面外观一直没有变化。其创始人称,对使用这个网站的用户来说,它简单又方便,这就足够了。他说作为一名工程师,简单就是美,实用就是美。Craigslist 总共只有 10 名员工,从事开发、客服和会记工作,没有任何人从事销售工作。

消息来源:PCMag

老王点评:你认同他的说法吗?我觉得还是懒 —— 不过话说也有一些人批评 Linux 中国好多年没改版的网站很丑。至于我们这么多年没改版的原因就不说了,我只能说新版就来了,就来了,只要小白不烂尾……


硬核观察 #763 AI 机器人遇到“提示注入”攻击
https://linuxcat.top/article-15043-1.html
作者
硬核老王
发布于
2022年9月18日
许可协议
CC-BY-NC