记得前阵子看过一篇新闻，貌似是米国的吧？说有个律师在开庭的时候，引用了一则判例法案，然而后来经过法官调查了解，律师所提到的那个判例法案压根就是子乌须有，是律师在准备的时候，偷懒直接用的AI给出的案例和数据，然而事实上是，那个案例压根就不存在，最后的结果是，律师所代表方不仅输掉了官司，还被法官判处罚金。。。
想来这哥们也是太相信AI了，你不知道AI造假那可是一本正经有模有样地胡说八道，通过我自己的体验和观察，AI造假，经常是煞有介事地写一大堆看似有用实则无用的废话，而这其中，往往还会夹带“私货”，掺杂一些假货，外人如果不了解其中，往往很容易被其表象蒙蔽，就像上边那位律师，还是专业人士都况且被欺骗。
Image by Dedy Eka Timbul Prayoga from Pixabay
今天看新闻，有几则也是跟AI相关。华尔街日报的一篇资讯，提到说《AI现在已经开始污染互联网》，在线出版商被无用的文章推销淹没，如下图，
其中提到，说5月初发现有49个利用AI造假的网站，而到了6月底，这个数字则上升到了277，后来经过分析，发现这些大多网站，都是围绕Google's online advertising network的赚钱计划，联想到去年chatGPT刚开始推出时，国内就有人通过其在百度文库上疯狂的AI输出一些无用的内容而赚取有偿报酬，算是异曲同工吧。
可见，只要有利益的地方，就有认总会想方设法利用工具去赚钱，而AI恰好就是最好的工具选择。看来今后很长一段时间内，大家主要考虑的，就是无论是文字、图像还是视频，究竟是真实的，还是AI虚构的？
说到AI造假，其实还没那么可怕。可怕的是，如果这些工具被坏人盯上，并被滥用，那后果就不堪设想，这还真不是危言耸听，刚才我就看到过一个利用AI犯罪的工具：WormGPT。
这玩意是干嘛用呢？说穿了，就是一款网络罪犯可以用生成式AI撰写高质量的钓鱼邮件工具。你还别说，网上还有详细的教程和使用指南，如下图，
介绍者毫不犹豫地指出，
it is crucial to note that WormGPT is a malicious chatbot designed to assist cybercriminals in carrying out illegal activities.
WormGPT是一种恶意聊天机器人，旨在协助网络犯罪分子进行非法活动。
WormGPT专为恶意活动而设计，例如恶意软件编码和漏洞利用。
我记得早些年，windows开始流行时，也许多漏洞，有人制作了一些黑客工具放到网上，本来是用于互相学习，结果被许多新手拿去当工具，恶意去扫描和攻击别人的服务器电脑，让许多人防不胜防。
如今AI刚开始没多久，就出现类似这样的工具，会不会以后也会泛滥成灾呢？
不过相信办法总是会有的。
