AIに特化した初の法律となる「人工知能関連技術の研究開発及び活用の推進に関する法律」（AI新法）が5月28日、参院本会議で与野党の賛成多数により可決、成立した。附帯決議では、AI技術を悪用した偽画像「ディープフェイク」、とりわけ児童の画像を使ったものに対して、厳正な取り締まりなど対策強化を求めている。

　AI新法では、首相を本部長とした全閣僚によるAI戦略本部を設置する。開発と活用を促進する一方、安全確保策としてAIを使った人権侵害のリスク抑制のため、悪質事業者には国が調査、指導し是正を促す。ただ、悪質事業者名の公表は可能だが、罰則規定はない。

　一方、AIを巡っては、技術の進歩とともに特別な知識、技術、設備がなくても精緻な偽画像・偽情報「ディープフェイク」が作成できるため、インターネット上に大量のディープフェイクが出回るようになり、深刻な被害も出ている。

　同法の附帯決議は、AI技術を悪用したディープフェイクによる性的な画像、とりわけ児童の画像を使ったものについて、既存の法令を適用した厳正な取り締まりと被害者の保護、サイト管理への違法情報の削除依頼といった対策強化を求めている。同時に、被害者が告訴した場合の負担軽減、被害発生防止に向けた教育啓発といった措置も必要と指摘している。

　また、生成AIは便利な一方、さまざまなリスクも有しているとして、リスクの把握を含めた適切な活用方法について、学校教育、社会教育の場でAIに関するリテラシー教育を積極的に進めることも求めている。

　生成AIによるディープフェイクは、卒業アルバムなどの写真を使って性的な画像と合成するなど、子どもたちの写真を悪用した画像、動画がSNSで拡散されるといった深刻な被害が国内外で問題となっている。海外では生成AIによるディープフェイクを処罰の対象とするといった動きもある。

　また、子どもを対象にした性的な画像・動画はこれまで「児童ポルノ」と表現されてきたが、「ポルノではなく、精神的な虐待」とする捉え方が海外などで広まり、CSAM（シーサム、児童性的虐待コンテンツ）という用語で呼ばれるようになった。国内外でCSAM撲滅を目指す動きが進められている。