2　SNS上の違法・有害情報の探索・分析におけるAI技術の活用

（1）SNS上の違法・有害情報対策の重要性

SNSをはじめとするインターネット上には、児童ポルノ、規制薬物の広告に関する情報等の違法情報や、違法情報には該当しないが、犯罪や事件を誘発するなど公共の安全と秩序の維持の観点から放置することができない有害情報が多数存在している。

また、近年、匿名・流動型犯罪グループ等による犯罪の実行者を直接的かつ明示的に誘引等（募集）する情報（犯罪実行者募集情報）も氾濫しており、応募者らにより実際に強盗、特殊詐欺等の犯罪が実行されるなど、この種情報の氾濫がより深刻な治安上の脅威となっている。

このような情勢の中、サイバー空間の安全・安心を確保するためには、インターネット上に膨大な量の情報が流通していることを踏まえ、AIをはじめとする先端技術も活用しながら、違法・有害情報の流通・拡散防止を図っていく必要がある。

（2）AI技術の活用

警察では、サイバーパトロール等による違法・有害情報の把握に努め、これを端緒とした取締り及びサイト管理者等への削除依頼を実施している。警察庁では、インターネット利用者等から違法・有害情報に関する通報を受理し、警察への通報、サイト管理者等への削除依頼等を行うインターネット・ホットラインセンター（IHC）を運用するとともに、インターネット上の違法・有害情報等を収集し、IHCに通報するサイバーパトロールセンター（CPC）を運用している。

CPCでは、SNS上の情報の探索・分析を効率化するため、令和5年、重要犯罪密接関連情報^（注）を自動収集してその該当性を判定するAI検索システムを導入し、サイバーパトロールの高度化を図っている。

また、警察庁では、令和3年度にAIを活用してSNSにおける規制薬物に関する情報等の探索・分析を行う実証実験を実施した。具体的には、規制薬物の広告等に関するSNS上の投稿をAIに学習させることで、SNS上の投稿の中から、規制薬物の広告等に関するものをAIにより効率的に抽出する仕組みを構築した。

同実証実験の結果、規制薬物の広告等に関するSNS上の投稿を高い精度で抽出できることが確認できたことから、警察庁において、AIを活用してSNS上の犯罪実行者募集情報等を効率的に抽出する仕組みを構築し、デジタル庁によるAI活用の高度化に向けた助言や支援を得つつ、犯罪実行者募集情報の投稿者等に対する返信（リプライ）機能を活用した迅速な個別警告等の効率化を図っている。