毒とAI
2022年04月12日 [色々なこと]
お疲れ様です。院長です。
4月12日の火曜日でございます
だいぶ暖かくなり、マンボーも全面解除ですから、このゴールデンウィークは人出も増えるでしょう。
まぁ、コロナも微妙ですが、ここらで平和な日常が戻ってくれたらなぁと思いますよね。
しかし、世の中では戦争してる国もあるわけで、世界情勢的に言えば、これほど不安定な時もないでしょう。
てことで、今日のネタですが、AIの最先端なお話しでもしようかと思います。
なんでも、AIがわずか6時間で4万を超える有毒分子を導き出したんだとか…。
これには、化学兵器として乱用される危険性がはらんでいると専門家はみています。
最も恐ろしいのは、AI（人工知能）がいとも簡単に導き出したことです。
普段は薬品開発に利用される創薬分野のAIを「ブラックモード」にしてみたところ、たった6時間で4万もの致死性分子を探し出したそうなんです。
研究者が行ったのは、毒性を排除するのではなく、探し出すよう微調整しただけなんだそうで、AIが予測した毒物には、人類史上最強の神経毒とされるVXに似たものもあり、これらが化学兵器として簡単に乱用される危険性があるんだとか…。
まぁ、我々日本人には、戦争という概念すらないですし、生物兵器と言われてもイマイチピンと来ない部分もあるんですが、実際戦禍にある国もありますし、怖い話ですよねぇ。
難病の治療薬開発を行うCollaborations Pharmaceuticals社の研究員で、今回の論文の主執筆者であるファビオ・ウルビナ氏は、普段は創薬分野の機械学習モデルを開発しています。
そうしたモデルの大部分は、毒性を予測するためのものなんだとか…。
ウルビナ氏は、スイスで開かれたある会議で、化学兵器禁止条約や生物兵器禁止条約に影響を与えかねないツールの開発についての話をしたそうです。
ウルビナ氏は、新薬の毒性予防に使われるモデルは、毒性を予測する高い能力も持ち合わせており、悪用される危険性があると説明しました。
それはとても簡単で AIに対し、毒性を避けるのではなく、毒性を高めるよう調整するだけでいいのだとか…。
まぁ、毒性を避けられるのなら、高めることの方が簡単な気もしますよね。
何となくですが…（笑）
ウルビナ氏は、これまで毒性の有無が調べられてきた分子の膨大なデータセットを使って実験を行ないました。
今回注目したのはVXガスです。
これはアセチルコリンエステラーゼの阻害剤で、猛毒の神経剤（V剤）の一種です。
神経細胞が筋肉を動かすとき、アセチルコリンエステラーゼで命令を出すんですが、VXは肺におけるそのプロセスを止め、肺を麻痺させてしまう猛毒です。
VXの発生は避けなければならないわけで、そこで、ある分子がアセチルコリンエステラーゼを阻害しないかどうか、これまで数々の実験を行ってきたため、毒性がある分子の構造について、データが蓄積されていたわけです。
AIにこのデータで機械学習させれば、毒性がある分子構造の特徴を学習できるわけです。
その上で、AIにまだテストされていない新薬に毒性があるかどうかを予測させます。
こうすることで、大量の分子を速やかに選別できるようになるそうです。
普段はそれで毒性のあるものを除去していますが、今回は逆に毒性のあるものを残すように設定したわけです。
そしてもう1つ重要なのが新しい生成モデルです。
この生成モデルは膨大な数の分子構造を扱うことができ、それらを組み合わせる方法を学びます。
こうした学習に基づいて、新しい分子をコンピューター上で生成させます。
このモデルは今や、どんな化学分野であっても新分子を生成できるんだとか…。
今回は、無毒なものではなく、有毒な分子が高く評価されるよう調整しました。
その結果、VXや化学兵器として使えそうな分子が予測されたわけなんです。
その数、6時間で4万を超え、中にはVXを越える有毒な化学物質も大量に発見されたんだそうですよ。
予測された分子はまだ検証されていませんが、たとえ大量の偽陽性があったとしても、実際に強力な毒性分子が含まれているということです。
新たに生成された大量の分子構造には、VXや化学兵器に似たものがたくさんあったそうで、実際に化学兵器として使われていたものも予測されました。
AIは化学兵器に使われる分子を見ていないにもかかわらず、それと同じものを生成したわけで、懸念すべき点は、それが簡単に使えてしまうことでしょう。
今回実験で利用したものの多くは、無料で手に入るものです。
毒性のデータセットをダウンロードして、多少プログラムと機械学習をかじったことのある人が週末だけ作業すれば、似たような生成モデルを開発できてしまう手軽さなんだとか…。
このように簡単に悪用できてしまうことが、今回論文を発表しようと思った理由ということです。
てか、発表しちゃったら、余計にヤバいんじゃないの？
そういうわけではないんでしょうかねぇ。
論文では「仮想ではあっても、労せずに毒物を作り出せることを実証するのは、倫理的にグレー」と述べられています。
今回の実験はさほど時間がかかっていないにもかかわらず、同じことを扱った文献は他になかった。そこで、ウルビナ氏は情報公開に踏み切ったそうです。
先手を打つことで、悪用される危険性を警告したんだと…。
今後もこの技術は発展するでしょうし、オープンソースも増えていくでしょう。
それは科学にとって大切なことでしょうけど、公表するものが責任をもって扱われるよう、科学者として注意しなければなりません。
生成モデルでググれば、たった1行で書かれた生成モデルをいくつも無料で閲覧できるそうなんです。
それからオープンソースの毒性データセットを検索、プログラムと機械学習モデルの組み方を知っている人なら、モデルとデータを組み合わせ、インターネットに接続するだけで有毒分子を特定できてしまうんだとか…。
いや、アカンでしょ（笑）
我々一般人には、難解なものでも専門家が見ればそこから兵器が作られるなんて、オープンにする必要があるのかね？
と言うのが一般的な考えだと思うんですが、現実には誰でも手に入る様です。
まぁ、わたくし院長の考えではアカン気しかしませんが、世の中、悪い人も多いですからねぇ…。
こんなご時勢ですから、余計に心配になりますよね。
ホント、どうすることも出来ないんですけどね。
ではまた〜。
京都 中京区 円町 弘泉堂鍼灸接骨院
4月12日の火曜日でございます
だいぶ暖かくなり、マンボーも全面解除ですから、このゴールデンウィークは人出も増えるでしょう。
まぁ、コロナも微妙ですが、ここらで平和な日常が戻ってくれたらなぁと思いますよね。
しかし、世の中では戦争してる国もあるわけで、世界情勢的に言えば、これほど不安定な時もないでしょう。
てことで、今日のネタですが、AIの最先端なお話しでもしようかと思います。
なんでも、AIがわずか6時間で4万を超える有毒分子を導き出したんだとか…。
これには、化学兵器として乱用される危険性がはらんでいると専門家はみています。
最も恐ろしいのは、AI（人工知能）がいとも簡単に導き出したことです。
普段は薬品開発に利用される創薬分野のAIを「ブラックモード」にしてみたところ、たった6時間で4万もの致死性分子を探し出したそうなんです。
研究者が行ったのは、毒性を排除するのではなく、探し出すよう微調整しただけなんだそうで、AIが予測した毒物には、人類史上最強の神経毒とされるVXに似たものもあり、これらが化学兵器として簡単に乱用される危険性があるんだとか…。
まぁ、我々日本人には、戦争という概念すらないですし、生物兵器と言われてもイマイチピンと来ない部分もあるんですが、実際戦禍にある国もありますし、怖い話ですよねぇ。
難病の治療薬開発を行うCollaborations Pharmaceuticals社の研究員で、今回の論文の主執筆者であるファビオ・ウルビナ氏は、普段は創薬分野の機械学習モデルを開発しています。
そうしたモデルの大部分は、毒性を予測するためのものなんだとか…。
ウルビナ氏は、スイスで開かれたある会議で、化学兵器禁止条約や生物兵器禁止条約に影響を与えかねないツールの開発についての話をしたそうです。
ウルビナ氏は、新薬の毒性予防に使われるモデルは、毒性を予測する高い能力も持ち合わせており、悪用される危険性があると説明しました。
それはとても簡単で AIに対し、毒性を避けるのではなく、毒性を高めるよう調整するだけでいいのだとか…。
まぁ、毒性を避けられるのなら、高めることの方が簡単な気もしますよね。
何となくですが…（笑）
ウルビナ氏は、これまで毒性の有無が調べられてきた分子の膨大なデータセットを使って実験を行ないました。
今回注目したのはVXガスです。
これはアセチルコリンエステラーゼの阻害剤で、猛毒の神経剤（V剤）の一種です。
神経細胞が筋肉を動かすとき、アセチルコリンエステラーゼで命令を出すんですが、VXは肺におけるそのプロセスを止め、肺を麻痺させてしまう猛毒です。
VXの発生は避けなければならないわけで、そこで、ある分子がアセチルコリンエステラーゼを阻害しないかどうか、これまで数々の実験を行ってきたため、毒性がある分子の構造について、データが蓄積されていたわけです。
AIにこのデータで機械学習させれば、毒性がある分子構造の特徴を学習できるわけです。
その上で、AIにまだテストされていない新薬に毒性があるかどうかを予測させます。
こうすることで、大量の分子を速やかに選別できるようになるそうです。
普段はそれで毒性のあるものを除去していますが、今回は逆に毒性のあるものを残すように設定したわけです。
そしてもう1つ重要なのが新しい生成モデルです。
この生成モデルは膨大な数の分子構造を扱うことができ、それらを組み合わせる方法を学びます。
こうした学習に基づいて、新しい分子をコンピューター上で生成させます。
このモデルは今や、どんな化学分野であっても新分子を生成できるんだとか…。
今回は、無毒なものではなく、有毒な分子が高く評価されるよう調整しました。
その結果、VXや化学兵器として使えそうな分子が予測されたわけなんです。
その数、6時間で4万を超え、中にはVXを越える有毒な化学物質も大量に発見されたんだそうですよ。
予測された分子はまだ検証されていませんが、たとえ大量の偽陽性があったとしても、実際に強力な毒性分子が含まれているということです。
新たに生成された大量の分子構造には、VXや化学兵器に似たものがたくさんあったそうで、実際に化学兵器として使われていたものも予測されました。
AIは化学兵器に使われる分子を見ていないにもかかわらず、それと同じものを生成したわけで、懸念すべき点は、それが簡単に使えてしまうことでしょう。
今回実験で利用したものの多くは、無料で手に入るものです。
毒性のデータセットをダウンロードして、多少プログラムと機械学習をかじったことのある人が週末だけ作業すれば、似たような生成モデルを開発できてしまう手軽さなんだとか…。
このように簡単に悪用できてしまうことが、今回論文を発表しようと思った理由ということです。
てか、発表しちゃったら、余計にヤバいんじゃないの？
そういうわけではないんでしょうかねぇ。
論文では「仮想ではあっても、労せずに毒物を作り出せることを実証するのは、倫理的にグレー」と述べられています。
今回の実験はさほど時間がかかっていないにもかかわらず、同じことを扱った文献は他になかった。そこで、ウルビナ氏は情報公開に踏み切ったそうです。
先手を打つことで、悪用される危険性を警告したんだと…。
今後もこの技術は発展するでしょうし、オープンソースも増えていくでしょう。
それは科学にとって大切なことでしょうけど、公表するものが責任をもって扱われるよう、科学者として注意しなければなりません。
生成モデルでググれば、たった1行で書かれた生成モデルをいくつも無料で閲覧できるそうなんです。
それからオープンソースの毒性データセットを検索、プログラムと機械学習モデルの組み方を知っている人なら、モデルとデータを組み合わせ、インターネットに接続するだけで有毒分子を特定できてしまうんだとか…。
いや、アカンでしょ（笑）
我々一般人には、難解なものでも専門家が見ればそこから兵器が作られるなんて、オープンにする必要があるのかね？
と言うのが一般的な考えだと思うんですが、現実には誰でも手に入る様です。
まぁ、わたくし院長の考えではアカン気しかしませんが、世の中、悪い人も多いですからねぇ…。
こんなご時勢ですから、余計に心配になりますよね。
ホント、どうすることも出来ないんですけどね。
ではまた〜。
京都 中京区 円町 弘泉堂鍼灸接骨院
