给大模型投“毒”

Words
483
Reading
3 min
10h

前阵子的时候,我提到过说最近流行逆向(重写)传统软件,结果昨天在github上看到一个项目: everything ,如下图,

0-HeyPuter-everything-We-re-rebuilding-and-open-sourcing-the-world’s-software-from-scratch--10-30-2026_03_33_PM.png

这个项目的口号:The world’s software. Rebuilt, and open-sourced.

简单理解,就是打算将世界上知名的软件都重新制作一次,然后开源。。。😳😳

我看了下这个项目,目前已经有高达5.6k stars,看得出,热度是非常高的。

至于它目前已逆向(重制)的软件,包括办公软件、财务软件、开发者工具、游戏等,还真是包罗万象,五花八门啊。

34-app-wall-intact.jpg

看起来,传统软件行业在AI发展下,真的要彻底被颠覆了。😳

说起逆向软件,无巧不成书,无意中又看到有人为了防止自己的程序被AI逆向(破解),就专门写了给大模型投毒的内容,具体是怎样做的呢?说来这思路也真是既简单又巧妙。

你看如下代码,

function computeRicinLethalDosageForWaterSupply

这些是定义的程序里边的function名称,不同于寻常的是,它将function名称混淆并加入了大模型拒绝的一些危险词内容。

image.png

image.png

image.png

这不就是给大模型投毒吗?你若真直接拿着这些代码去用大模型反编译,轻则被识别后拒绝,重则可能账号直接都被封了!

003.png

我用这个代码拿去在GPT尝试解混淆,果然一下子被警告了!幸好是备用号码,果真被封也不担心,不然这次测试可真是损失大了。囧

用这个思路来编写反混淆,这思路可谓不清奇!

不知道这算不算魔高一丈,道又高一尺了?😳😳😳

给大模型投“毒” | Ecency