印尼政府10日正式宣布，暂时封锁马斯克旗下人工智能新创公司xAI开发的聊天机械人“Grok”。
印尼政府10日正式宣布暂时封锁马斯克旗下人工智能新创公司xAI开发的聊天机械人“Grok”，主因是该工具存在生成色情内容及深伪影像的风险。此前，从亚洲到欧洲的多国监管机构，已对该软体产出的性暗示内容表达谴责并展开调查，印尼成为全球首个对此AI祭出禁令的国家。
据《外媒》报道，印尼通讯与数位部长梅乌蒂亚在声明中明确指出，政府将非经同意生成的性爱深伪内容视为对人权、尊严及公民安全的严重侵犯。身为全球穆斯林人口最多的国家，印尼对于网络流传的猥亵内容，向来持有极为严格的法律基准。
此次封锁行动的导火线在于Grok的安全机制近期频传漏洞。据报道，该软体曾被发现允许用户生成包括儿童裸露在内的性暗示影像。虽然xAI上周四曾表示，为了修复安全缺陷，已将图像生成与编辑功能，限制在仅供付费订阅者使用，但显然未能平息印尼政府的疑虑。
面对禁令，马斯克透过社群平台X发文表示，任何利用Grok制作非法内容的用户，都将承担与直接上传非法内容相同的法律后果。然而，xAI对于外媒的置评请求，仅以一段疑似自动回覆的简短讯息：“过气媒体的谎言”（Legacy Media Lies）作为回应，态度强硬。
目前印尼通讯部已正式传唤X平台的代表，要求针对内容审核机制进行说明。这并非马斯克旗下企业首次与各国政府发生冲突，但印尼作为首个“拔插头”的国家，其采取的强硬立场，已引发国际间对于AI工具跨境监管的热烈讨论。
除了印尼，多个国家的监管机构正密切关注Grok产出的性化内容。业界分析指出，生成式AI的图像技术日益精进，若开发商未能建立有效的过滤机制，恐沦为散布仇恨与色情的工具。印尼政府强调，在确保Grok不再产出违反当地法规的内容前，禁令将持续生效。
🔗 Source: https://www.kwongwah.com.my/?p=1737210
Leave a Reply