日本25岁男子因利用生成式AI技术制作恶意软件，首次面临刑事定罪，揭示防止滥用科技的重要性

日本首例生成式AI滥用刑事定罪案例

据《读卖新闻》报道，近日，日本东京地方法院判处了一名25岁的林姓男子三年有期徒刑，缓期四年执行。这是日本首次因滥用生成式AI制造电脑病毒而作出的刑事定罪。据判决书显示，去年3月31日，该男子在其位于川崎市的住所中，利用电脑和智能手机，通过生成式AI获取恶意程序设计图（源代码），制作了类似勒索软件的电脑病毒。此外，他还冒充他人骗取了手机通信卡等物品。

被告动机与行为

判决书中指出，该男子为了获取金钱而制作病毒，其行为自私且刑事责任重大。尽管如此，鉴于被告已承认起诉事实并表示反省，法院决定给予缓刑。法庭上还揭露了一个令人担忧的事实——即使没有IT专业知识，也可以利用生成式AI制作病毒。根据检方的开场陈述，被告林某使用了“非官方版的ChatGPT”，创建了对特定文件进行加密并使其无法使用的程序源代码，同时还要求支付加密货币“比特币”。

病毒制作过程

被告在本月1日的质询中表示，完成病毒大约花费了一个月的时间。他承认自己没有IT知识，并表示如果没有生成式AI的帮助，他可能无法制作出病毒。当辩护人问他“是否很简单”时，他回答说是的。检方在陈述中指出，如果被告没有因通信卡诈骗案被捕，他的病毒可能会被用于更广泛的犯罪活动。

专家观点与防范措施

安全公司“三井物产Secure Directions”的高级恶意软件分析技术员吉川孝志在接受采访时称，生成式AI通常设有不提供非法信息的限制，但网上也存在规避这些限制的方法。被告在质询中也承认，他找到了解除限制的方法并使用了这些方法。吉川孝志强调，生成式AI被恶意利用时，即使没有专业知识的人也可能获取可用于犯罪的信息。因此，必须在不影响正当使用的前提下，加紧采取防止滥用的对策。

本文来源： IT之家【阅读原文】