乃木坂46のアイコラ被害とディープフェイク規制の法的全貌
かつてグループの象徴として活躍した白石麻衣の在籍時代、違法なコラージュ画像といえばPhotoshop等を用いた手作業による粗雑な合成が主流だった。当時は不自然な繋ぎ目や解像度の違和感から偽物と識別することが容易であり、拡散のスピードも一定の限度内に収まっていた。しかし、ディープラーニングと拡散モデルの登場がその前提を根底から破砕した。
現在の生成AIは、わずか数枚の公式写真や動画フレームを学習させるだけで、照明、皮膚の質感、髪の毛の一本一本の揺れまで完璧に模倣する。人間の目では偽物と見抜くことがほぼ不可能なレベルの映像が瞬時に生成されるのだ。この技術的跳躍が、被害の拡大スピードと悪質性を二次関数的に跳ね上げている。