记者观察 | 如何识别内容生产者是AI还是人类?

2023-02-11 09:19:15 来源:上海证券报 作者:孙小程 记者 罗茂林

  迅猛发展的ChatGPT有了新的讨论落点——如何识别内容生产者是AI还是人类?

  在极度重视生产者主体性、原创性的领域面前,ChatGPT已经可以做到“以假乱真”。这意味着AI生产的内容很可能进入一些本不应该进入的领域,比如各类考试、论文之中。

  在这种担忧与警惕的声音之下,“反ChatGPT”开始成为一股新的势力,市场也看到了新的投资机会。2月10日,“ChatGPT”概念股开始回调,“数字水印”等提供相关解决方案的公司突遇大涨行情,汉邦高科涨停,金运激光、汉仪股份领涨。

  用AI监督AI成为趋势

  从目前的实践来看,ChatGPT已经能够胜任部分考试和文章写作,甚至能够通过部分专业资格证的考试。美国明尼苏达大学的一位教授在经过测试后,评价ChatGPT称:“在撰写论文时,ChatGPT表现出对基本法律规则的把握,以及其一贯的扎实的组织文本和写作的能力。”

  部分学生甚至开始利用ChatGPT来应付作业与论文,这一现象引起了业界和学界的担忧。多家美国教育机构出台政策“封禁”ChatGPT。

  如何及时区分内容生产者是AI还是人类?多位从业人士认为,能够制约AI的,或许也只有AI。而这也衍生出了两种技术路线:一种是倾向内部自律;另一种则是青睐外部纠察。

  所谓内部自律便是A股市场上突然热炒的“数字水印”。清华大学人工智能国际治理研究院副院长、人工智能治理研究中心主任梁正在接受采访时表示,针对目前潜在的风险及监管隐患,加入“数字水印”或成为一种解决方案。

  所谓数字水印技术,指的是向数据多媒体(如图像、声音、视频信号等)中添加某些数字信息以达到文件真伪鉴别、版权保护、文件溯源等功能的技术手段。在适用范围上,数字水印技术可以在盗版追溯、媒资管理、安全保护、防伪验真等多方面有众多衍生应用,应用方式包含但不限于软件系统、硬件集成、芯片嵌入以及云端服务等。

  “这个技术其实早就有大规模使用了。”一位院线负责人告诉记者,仅以影院为例,近年来为治理各类盗版,几乎所有影院播放的影片画面都自带数字水印。“这些标记观众是看不出来的,但是一旦影片泄露,用专业设备就可以快速锁定泄露的影院、场次等信息。

  据了解,ChatGPT的开发商OpenAI也在考虑对AI系统生成的内容添加水印,来辅助辨别文本是出自AI还是人类之手。

  除了内部自律以外,目前行业也在探索外部纠察的方式,而这种更为直接的对抗也诞生了新的产品——AI内容生成检测器。近期有美国高校就宣布推出了一套检测AI生成文本的全新算法,并将之取名为DetectGPT。

  多家A股公司已布局“数字水印”

  ChatGPT的浪潮兴起让“数字水印”进入大众视野,记者梳理发现,目前已有多家A股公司提前布局相关领域。

  比如汉邦高科,公司自2007年起致力于数字水印算法的研究,已经掌握了数字水印的运用原理及核心算法,构建了较高的知识产权壁垒。

  汉邦高科的数字水印技术业务主要是销售数字水印专业软硬件、授权以及数字水印相关的集成项目。公开资料显示,汉邦高科部分产品已获得美国电影协会、原信息产业部、国家广电总局规划院相关认证,应用端已获得国家广电总局、CCTV及地方台、电影技术质量检测所等客户认可。

  金运激光也在数字水印领域有一定布局。金运激光证券部人士表示,公司目前可以提供数字内容水印的技术以及加密技术,该技术对内容形式没有限制。金运激光主营业务为以高端数字激光装备制造为主的工业智能应用和以IP衍生品运营业务为主的商业智能应用。

  数码视讯在互动平台表示,公司是第一家通过ChinaDRMLAB安全评估的数字水印产品方案商。平治信息表示,在数字音频版权跟踪技术方面,公司使用音频数字水印嵌入技术在数字音频中嵌入隐蔽的版权信息。