人工知能を支配しようとする世界的な競争は白熱しているが、世界有数のコンピューター科学者の一人は、ビッグテックが人類の未来を無謀に賭けていると警告している。おすすめ動画* * *AIの最も声高な意見は、しばしば二つの陣営に分かれる：世界を変えると称賛する者と、制御または封じ込めを促す者だ。カリフォルニア大学バークレー校の先駆的なAI研究者、スチュアート・ラッセルは後者のグループに属している。彼の主な懸念の一つは、政府や規制当局が技術の急速な展開に追いつけず、民間企業が危険な競争に巻き込まれ、冷戦時代以来見られなかったような危険な競争に発展するリスクを孕んでいることだ。「政府が民間企業に、地球上のすべての人間とほぼ同時にロシアンルーレットをさせることを許すのは、私の見解では完全な義務怠慢です」と、ラッセルはニューデリーで開催されたAIインパクトサミットでAFPに語った。技術企業のCEOたちは、次世代最高のAIモデルを開発する「軍拡競争」に巻き込まれているが、業界はこれが最終的に医療研究や生産性の飛躍的向上をもたらすと主張している。一方、多くはリスクを無視したり軽視したりしているとラッセルは指摘する。最悪の場合、規制のないまま革新の速度が加速すれば、人類の絶滅につながる可能性もあると彼は考えている。ラッセルはAIの急速な展開に潜む存在的リスクについてよく知っている。彼はイギリス生まれのコンピューター科学者で、40年以上にわたりAIを研究し、1995年にはこの分野で最も権威のある教科書の一つを出版した。2016年には、AIの安全性に焦点を当てたバークレーの研究センターを設立し、「証明可能に有益な」AIシステムを人類のために推進している。ニューデリーで、ラッセルは企業や政府がその目標からどれだけ遠く離れているかについて言及した。彼の批評は、最終的に創造者を凌駕するシステムの急速な開発に焦点を当てており、その過程で人類文明が「巻き添え被害」になる可能性を指摘している。主要なAI企業のトップたちは、これらの存在的危険性を認識しているが、市場の力によって身動きが取れなくなっている。「主要なAI企業のCEOたちは皆、武装解除したいと考えていると思います」とラッセルは述べたが、「一方的に」それを行うことはできないと語る。なぜなら、その立場は競合他社に奪われ、投資家から即座に追放される危険があるからだ。**新冷戦**------------存在的リスクや人類絶滅の可能性についての議論は、かつては冷戦時代の核兵器拡散の脅威に限定されていた。大国が敵に追いつかれまいと兵器を蓄積した時代だ。しかし、スチュアート・ラッセルのような懐疑論者は、今やその枠組みを人工知能の時代に適用し始めている。米国と中国の競争は、多くの場合、核の「軍拡競争」に似たAIの「軍拡レース」として語られ、秘密主義、緊迫感、そして高いリスクが20世紀後半のワシントンとモスクワの核対立を彷彿とさせる。ロシアのプーチン大統領は、ほぼ10年前にその巨大なリスクを端的に表現した。「この分野でリーダーになる者が世界の支配者になる」と2017年の演説で述べた。現在の軍拡競争は兵器の数で測れるものではないが、その規模は投入されている膨大な資本に表れている。各国や企業は、AIの訓練と運用のために数百億ドルを投じている。米国だけでも、今年のAI関連の資本支出は6000億ドルを超えると予測されている。しかし、ラッセルによると、積極的な企業の行動は規制による抑制にはまだ追いついていない。「各国政府がこの問題を理解していることが非常に重要です。だからこそ、私はここにいるのです」と彼はインドのサミットについて語った。中国やEUは、技術規制に対してより厳しい姿勢を取っている一方、他の地域ではより手つかずの状態が続いている。インド政府は、主に規制緩和の方針を採用している。米国では、トランプ政権がAIに対して自由市場の理念を推進し、多くの州レベルの規制を撤廃し、企業に自由に行動させようとしている。2001年、フォーチュン誌は「私たちが知る最も賢い人々」を初めて招集し、CEOや創業者、開発者、投資家、思想家、実行者を一堂に会した。それ以来、**フォーチュン・ブレインストーム・テック**は、大胆なアイデアが交錯する場所となっている。**6月8日から10日**まで、私たちは**アスペン**に戻る—そこからすべてが始まった場所で、ブレインストームの25周年を記念する。**今すぐ登録してください。**
AIの軍拡競争で「ロシアンルーレット」をしているビッグテック幹部は、人類絶滅の危険を伴う可能性があると、トップ研究者が警告
人工知能を支配しようとする世界的な競争は白熱しているが、世界有数のコンピューター科学者の一人は、ビッグテックが人類の未来を無謀に賭けていると警告している。
おすすめ動画
AIの最も声高な意見は、しばしば二つの陣営に分かれる：世界を変えると称賛する者と、制御または封じ込めを促す者だ。カリフォルニア大学バークレー校の先駆的なAI研究者、スチュアート・ラッセルは後者のグループに属している。彼の主な懸念の一つは、政府や規制当局が技術の急速な展開に追いつけず、民間企業が危険な競争に巻き込まれ、冷戦時代以来見られなかったような危険な競争に発展するリスクを孕んでいることだ。
「政府が民間企業に、地球上のすべての人間とほぼ同時にロシアンルーレットをさせることを許すのは、私の見解では完全な義務怠慢です」と、ラッセルはニューデリーで開催されたAIインパクトサミットでAFPに語った。
技術企業のCEOたちは、次世代最高のAIモデルを開発する「軍拡競争」に巻き込まれているが、業界はこれが最終的に医療研究や生産性の飛躍的向上をもたらすと主張している。一方、多くはリスクを無視したり軽視したりしているとラッセルは指摘する。最悪の場合、規制のないまま革新の速度が加速すれば、人類の絶滅につながる可能性もあると彼は考えている。
ラッセルはAIの急速な展開に潜む存在的リスクについてよく知っている。彼はイギリス生まれのコンピューター科学者で、40年以上にわたりAIを研究し、1995年にはこの分野で最も権威のある教科書の一つを出版した。2016年には、AIの安全性に焦点を当てたバークレーの研究センターを設立し、「証明可能に有益な」AIシステムを人類のために推進している。
ニューデリーで、ラッセルは企業や政府がその目標からどれだけ遠く離れているかについて言及した。彼の批評は、最終的に創造者を凌駕するシステムの急速な開発に焦点を当てており、その過程で人類文明が「巻き添え被害」になる可能性を指摘している。
主要なAI企業のトップたちは、これらの存在的危険性を認識しているが、市場の力によって身動きが取れなくなっている。「主要なAI企業のCEOたちは皆、武装解除したいと考えていると思います」とラッセルは述べたが、「一方的に」それを行うことはできないと語る。なぜなら、その立場は競合他社に奪われ、投資家から即座に追放される危険があるからだ。
新冷戦
存在的リスクや人類絶滅の可能性についての議論は、かつては冷戦時代の核兵器拡散の脅威に限定されていた。大国が敵に追いつかれまいと兵器を蓄積した時代だ。しかし、スチュアート・ラッセルのような懐疑論者は、今やその枠組みを人工知能の時代に適用し始めている。米国と中国の競争は、多くの場合、核の「軍拡競争」に似たAIの「軍拡レース」として語られ、秘密主義、緊迫感、そして高いリスクが20世紀後半のワシントンとモスクワの核対立を彷彿とさせる。
ロシアのプーチン大統領は、ほぼ10年前にその巨大なリスクを端的に表現した。「この分野でリーダーになる者が世界の支配者になる」と2017年の演説で述べた。
現在の軍拡競争は兵器の数で測れるものではないが、その規模は投入されている膨大な資本に表れている。各国や企業は、AIの訓練と運用のために数百億ドルを投じている。米国だけでも、今年のAI関連の資本支出は6000億ドルを超えると予測されている。
しかし、ラッセルによると、積極的な企業の行動は規制による抑制にはまだ追いついていない。「各国政府がこの問題を理解していることが非常に重要です。だからこそ、私はここにいるのです」と彼はインドのサミットについて語った。
中国やEUは、技術規制に対してより厳しい姿勢を取っている一方、他の地域ではより手つかずの状態が続いている。インド政府は、主に規制緩和の方針を採用している。米国では、トランプ政権がAIに対して自由市場の理念を推進し、多くの州レベルの規制を撤廃し、企業に自由に行動させようとしている。
2001年、フォーチュン誌は「私たちが知る最も賢い人々」を初めて招集し、CEOや創業者、開発者、投資家、思想家、実行者を一堂に会した。それ以来、フォーチュン・ブレインストーム・テックは、大胆なアイデアが交錯する場所となっている。6月8日から10日まで、私たちはアスペンに戻る—そこからすべてが始まった場所で、ブレインストームの25周年を記念する。今すぐ登録してください。