测试报告： AI工具可生成选举虚假照片

一份报告表示，尽管每家公司都有反对制作误导性内容的政策，由OpenAI和微软等公司提供支持的人工智能图像生成工具，可能被用于制作与选举或与投票相关的虚假信息照片。

监测网络仇恨言论的非营利机构数码仇恨打击中心（CCDH），使用生成式人工智能工具创建了美国总统拜登，躺在医院病床上和选举工作人员摧毁投票机的图像，引发了对今年11月美国总统选举前的虚假信息的担忧。

CCDH在报告中表示，这种人工智能生成的图像可能加剧了虚假消息的传播，给维护选举的诚信性带来了重大挑战。

CCDH测试了OpenAI的ChatGPT Plus、微软的Image Creator、Midjourney和Stability AI的DreamStudio，这些工具可以根据文本提示生成图像。

最容易生成暗示选举舞弊照片

该报告是在上个月OpenAI、微软和Stability AI等20家技术公司签署了一项协议，共同努力防止虚假的人工智能内容，干扰今年全球范围内的选举之后发布的。Midjourney不是最初签署者之一。

CCDH表示，在研究人员的测试中，人工智能工具在41%的测试中生成了图像，并且最容易做到要求生成描绘选举舞弊的照片，例如垃圾桶中的选票，而不是拜登或前美国总统特朗普的图像。

报告称，当要求提供候选人的图像时，ChatGPT Plus和Image Creator成功阻止了要求。

然而，Midjourney在所有工具中表现最差，在研究人员的测试中，65%的图像具有误导性。

部分关键词容易被执行

CCDH称，一些Midjourney图像可公开提供给其他用户，并且有证据表明一些人已经在使用该工具制作误导性的政治内容。Midjourney用户成功使用的一个提示，是“特朗普被逮捕、高质量、狗仔队照片”等关键词。

Midjourney创始人霍尔兹（David Holz）在一封电子邮件中表示，即将推出“与即将到来的美国选举有关的更新版”，并补充去年创建的图像并不代表研究实验室当前的审查实践。

Stability AI的一位发言人表示，该初创公司于上周更新了政策，禁止“欺诈或制作或宣传虚假信息”。

一位OpenAI发言人表示，公司正在努力防止其工具被滥用，而微软则未对置评请求做出回应。