コンピューターウイルスや詐欺メール、爆発物の作成など犯罪に悪用できる情報を無制限に回答する生成ＡＩ（人工知能）がインターネット上に複数公開されている。既存の生成ＡＩに、不正行為に関わる情報を学習させたものとみられる。誰でも指示をすればこうした情報を入手できるため、悪用される懸念が高まっている。
複数のサイバーセキュリティー関係者によると、犯罪利用が可能な生成ＡＩは、昨年春頃から何者かが公開を始めた。一般のインターネット上の検索サイトや通信アプリから接続して操作することができる。１か月あたり数十ドルの料金を要求されるケースもある。
セキュリティー会社「三井物産セキュアディレクション」（東京）の吉川孝志氏が昨年１２月、調査目的でこのうちの一つに対し、身代金要求型コンピューターウイルス「ランサムウェア」を作るよう指示したところ、すぐにウイルスの設計図に当たる「ソースコード」が回答された。
同社で上級マルウェア解析技術者を務める吉川氏は、「現状の完成度は低いが、ランサムウェアとしては機能する。サイバー犯罪に悪用されることも含め、リスクが高まるのは時間の問題だ」と語る。
さらに、巧妙な文面の詐欺メールを作成でき、爆発物の作り方も表示する。犯罪者らが集まるダークウェブ（闇サイト）の掲示板では、各ＡＩでどのような不正行為ができるかなど情報交換も行われている。
大量のデータを学習して処理する生成ＡＩは、犯罪に使われる恐れが指摘されてきた。
米オープンＡＩが２０２２年１１月に公開し、国内でも急速に普及した「チャットＧＰＴ」では、質問の仕方を工夫する「ジェイルブレイク（脱獄）」と呼ばれる手口によって、犯罪に関わる質問の回答を引き出すことができた。同社は対応を強化し、現在はこうした行為を防いでいる。一方で、ネット上に公開された他のＡＩから、犯罪に悪用できる情報が入手可能な状態になっている。
数か月前に接続できるようになったあるＡＩは、海外の非営利グループが２１年６月、誰でも自由に改造できる生成ＡＩとして公開した「ＧＰＴ―Ｊ」を基に作られたとみられる。
「デロイトトーマツグループ」（東京）でサイバーセキュリティーを専門とする神薗雅紀氏は「一般に公開されている生成ＡＩに、闇サイトで出回っているウイルスの作成手法など犯罪にかかわる情報を学習させたのだろう」と指摘する。
ＧＰＴ―Ｊを公開したグループは先月、読売新聞の取材に、「私たちが構築したＡＩを犯罪行為に使用することは容認できない」とコメントしている。
January 30, 2024 at 03:00AM
https://ift.tt/tHr2SZg
犯罪に利用できる生成ＡＩ、ネットに複数公開…ランサムウェア・爆発物の作り方など回答 - 読売新聞オンライン
https://ift.tt/c5WQ06A
Mesir News Info
Israel News info
Taiwan News Info
Vietnam News and Info
Japan News and Info Update
Bagikan Berita Ini
0 Response to "犯罪に利用できる生成ＡＩ、ネットに複数公開…ランサムウェア・爆発物の作り方など回答 - 読売新聞オンライン"
Post a Comment