Midjourney计划让网络上的任何人都可以使用AI编辑图像 | TechCrunch
作者：Kyle Wiggers
Midjourney计划发布一个升级版的网页工具，该工具将允许用户使用Midjourney的生成式AI编辑从网上上传的任何图片。
升级后的工具将于“下周初”由Midjourney首席执行官David Holtz发布，该工具还将允许用户根据字幕重新着色和修改图片中物体的细节。
使用AI编辑现有图片已成为一个近期热议的话题。像Meta这样的平台已经采取了行动。搏斗了关于如何标注使用AI工具编辑的图像与从零开始用AI模型生成的图像，而像谷歌这样的公司已经发布了强大的AI功能那些没有视觉指示表明图片已被AI修改的。
去年，Midjourney承诺使用IPTC的数字来源类型属性，这是一个将元数据嵌入图像中的技术标准，表明这些图像是由AI生成的。然而，该公司是少数几个没有采用C2PA的主要人工智能平台之一，C2PA是一种元数据技术，可以追溯图像的完整出处，包括创建它所使用的设备和软件。
在一篇帖子中Midjourney官方Discord服务器霍尔兹表示，升级后的图像工具将首先限制在“当前社区的一个子集”内使用，并增加人工审核以及“新的、更先进的AI审核程序”，以试图防止滥用。
“说实话，我们不清楚如何精确限制这项功能的部署，”他说。MidJourney通过投票征求社区反馈，以此来决定谁将首先获得访问权限。
在没有适当保护措施的情况下发布这类编辑工具存在风险。它们可能会大规模促进版权侵权，或推动误导性深度伪造内容的传播。
深度伪造是像野火一样蔓延在社交媒体上广泛传播，使得区分真相和虚假信息变得更加困难。最近最明显的例子是伪造的生成式AI图像，这些图像是关于破坏和人类苦难的淹没了网络飓风赫莱恩过后。
根据来自的数据清晰度，一家深伪检测公司表示，与去年同期相比，今年创建和发布的深伪内容增加了900%。这令人担忧，可以理解。YouGov最近的一项民意调查显示，85%的美国人感到担忧关于误导性深度伪造视频在网上传播的问题。
在美国联邦层面没有制定禁止深度伪造的法律的情况下，已经有超过10个州制定了针对AI辅助伪装行为的法规。加利福尼亚州的法律规定——目前停滞不前——将首先赋予法官命令发布深度伪造内容的个人删除这些内容或可能面临金钱处罚的权利。
Midjourney并没有成为一个光辉的例子负责任的人工智能部署。（它正在被起诉...（可能需要更多上下文以提供更准确的翻译） 如果必须仅依据给出的单词进行翻译，那么直接答案是： 起诉由于涉嫌使用受版权保护的内容来训练其生成式人工智能模型（例如），该平台最近几个月采取了限制深度伪造内容传播的措施，包括在美国总统选举前为政治人物设置了过滤器。
关于《Midjourney计划让网络上的任何人都可以使用AI编辑图像 | TechCrunch》的评论
暂无评论