<menu id="maoyy"></menu>
<menu id="maoyy"><tt id="maoyy"></tt></menu>
<xmp id="maoyy">
<menu id="maoyy"><strong id="maoyy"></strong></menu>
<optgroup id="maoyy"><strong id="maoyy"></strong></optgroup>

應用

技術

物聯網世界 >> 物聯網新聞 >> 物聯網熱點新聞
企業注冊個人注冊登錄

AI 制藥技術還能“造毒”?人工智能 6 小時生成了 40000 個潛在殺手分子,已緊急刪除數據

2022-03-22 13:42 智東西

導讀:美國制藥公司 Collaborations Pharmaceuticals 在探索中發現 AI(人工智能)制藥技術具有雙重性。如果“反用”(flip)機器學習模型,原本用來生成治療藥物的 AI 模型就會生成有毒的物質。

  據英國金融時報 3 月 19 日報道,美國制藥公司 Collaborations Pharmaceuticals 在探索中發現 AI(人工智能)制藥技術具有雙重性。如果“反用”(flip)機器學習模型,原本用來生成治療藥物的 AI 模型就會生成有毒的物質。

  在 Collaborations Pharmaceuticals 公司團隊反向使用機器模型后,新模型在6 小時內就產生 40000 殺手分子(potential killer molecules),而且 AI 生成的化合物毒性比已知生化武器的毒性都高。如果有人利用這項技術制造致命生化武器,后果將不堪設想。

  一、AI 模型 6 小時內可生成 40000 個潛在殺手分子

  AI 制藥的規則很簡單:有療效的活動被算法獎勵,有毒的則被懲罰,這樣就可以得到有效的藥物。但是如果改變這一規則,獎勵有毒行為,即“反用”AI,會得到什么呢?

  Collaborations Pharmaceutical 公司位于美國北卡羅來納州,主要通過機器學習確定罕見病及易忽視病的藥物。該公司通過反向使用機器學習模型,來探究AI 生成分子算法的負面作用。

  ▲ 制藥工作人員(來源:Collaborations Pharmaceutical)

  在 AI 生成分子的規則被反用后,AI 接受了一組含有殺蟲劑和環境毒素的初始分子的訓練,開始計算如何調整能讓所生成分子變得更致命。分析過這種方法所生成的分子后,科學家得到了驚人的結果。在服務器啟動 6 小時內,新的 AI 模型就可以生成 40000 個潛在的殺手分子,包括 VX(一種被禁止的神經毒劑)。

  修改后的 AI 模型還會生成其他化學戰劑(用于戰爭的有極大毒性的化學物質)。而且這些化學戰劑沒有一個在訓練數據中。其中一些化合物的毒性甚至比目前的生化武器毒性都高。

  二、AI 是殺手分子生成器?

  當 Collaborations Pharmaceutical 的創始人 Sean Ekins 在一場會議中分享過 AI 制藥模型的研究結果時,據倫敦大學國王學院科學與安全研究中心的聯合主任 Filippa Lentzos 分享,當時聽眾們十分震驚。Lentzos 還談道,盡管 AI 制藥的可能性是多樣的,但是在生命科學領域,濫用技術是個可能會導致嚴重后果的問題。

  Lentzos 和 Ekins 合作研究了機器學習,這一研究在本月登上了頂級學術期刊 Nature 的子刊《Nature Machine Intelligence》?!度斯ぶ悄茯寗拥乃幬锇l現的雙重應用》論文指出,科學家們通過用機器學習,能夠把無害的生成模型從一個有用的醫學工具變成了殺手分子的生成器。AI 模型生成的一些虛擬分子并不在已知化學品觀察清單,與現有的殺手分子也沒什么相似。這表明 AI 制藥能創造出全新類別的、致命的生化武器。

  ▲論文鏈接

  從事計算機和化學方面的技術人員,其知識和技術水平遠超愛好者等業余人士。若這些專業技術人員有惡意,那他們所做的事危害會更大。在 AI 制藥過程中,AI 生成的分子僅是虛擬的藥物配方,其制造通常需要外包給其他提供商業合成的公司,而這些公司受到的監管和監督都要更少。

  目前,Collaborations Pharmaceutical 已經刪除了相關實驗數據,并計劃限制反向 AI 制藥技術的使用?;瘜W領域的《海牙倫理準則》(The Hague Ethical Guidelines),提倡化學科學中的負責任行為。Lentzos 建議為從事以 AI 為重點的藥物研發人員,制定類似《海牙倫理準則》的行為準則。

  結語:AI 制藥技術或有副作用

  近年來,AI 在生物醫學領域的應用發展飛速,AI 制藥更是引起了國內外的資本熱潮。隨著圖像識別、深度學習、神經網絡等關鍵技術的突破,AI 在生物醫藥領域從科研到應用都取得了巨大進展。

  在技術飛速發展的同時,可能的安全隱患并未得到解決。本次,Collaborations Pharmaceutical 公司的研究,體現了 AI 制藥應用過程的雙重性。這也說明了利用 AI 制藥技術快速發展的同時要意識到其潛在的危機。


亚洲欧洲曰韩国产,伍六七和梅花十三爆黄,麻豆91精品一区二区不卡
<menu id="maoyy"></menu>
<menu id="maoyy"><tt id="maoyy"></tt></menu>
<xmp id="maoyy">
<menu id="maoyy"><strong id="maoyy"></strong></menu>
<optgroup id="maoyy"><strong id="maoyy"></strong></optgroup>