サーシャ・ルッチオーニ(Sasha Luccioni、本名:Alexandra Luccioni、旧姓:Vorobyova)は、人工知能(AI)の倫理・社会的影響および気候変動とAIの交差領域を専門とするカナダの研究者である。Hugging Faceのリサーチサイエンティスト兼AIおよび気候変動リードを務め、AIシステムの持続可能性と倫理的側面に関する研究で国際的に知られる。
経歴
出自・学歴 旧ソビエト連邦時代のウクライナ出身。その後カナダに移住し、モントリオールを拠点とする。
学歴は以下の通り。
2010年:言語科学学士(パリ第3大学(ソルボンヌ・ヌーヴェル)) 2012年:認知科学修士・自然言語処理副専攻(エコール・ノルマル・シュペリウール・パリ校) 2018年:認知コンピューティング博士(ケベック大学モントリオール校(UQAM))
職歴 博士号取得後、産業界での研究職に就く。
2017年–2018年:ニュアンス・コミュニケーションズ(Nuance Communications)にてAI・自然言語処理リサーチサイエンティストとして対話システムの研究に従事。 2018年–2019年:モルガン・スタンレーのAI/MLセンター・オブ・エクセレンスにてAIリサーチサイエンティストとして、説明可能AIおよびヒューマン・イン・ザ・ループ意思決定の研究に従事。 2019年–2021年:モントリオール大学・Milaにてポスドク研究員として、ヨシュア・ベンジオのもとで「This Climate Does Not Exist」プロジェクト(条件付きGANを用いた気候変動の視覚化)に取り組む。 2021年(パートタイム):国連グローバルパルスにて計算社会科学者として、WHOのパンデミック対応のための誤情報追跡ダッシュボードを開発。 2021年–現在:Hugging FaceにてリサーチサイエンティストおよびAI・気候変動リードを務める。
研究
AIの炭素排出量・環境影響 ルッチオーニの主要な研究領域は、AIシステムの環境コストの定量化である。
2020年、AIアルゴリズムの実行時に発生する炭素排出量を自動推計するオープンソースツール「CodeCarbon」の共同開発に参加した。このツールはその後100万回以上ダウンロードされている。
2022年、ルッチオーニらは大規模言語モデル「BLOOM (AI)」(当時世界最大のオープンソース多言語AIモデル、1,760億パラメータ)の炭素フットプリントを算出した研究を発表した。その結果、訓練だけで30軒分の家庭の年間電力消費量に相当するエネルギーが費やされ、25トンのCO₂が排出されることが推計された。
2023年、ルッチオーニ、ヤシン・ジェルニット(Yacine Jernite)、エマ・ストルベル(Emma Strubell)の共著論文「Power Hungry Processing: Watts Driving the Cost of AI Deployment?」をarXivで発表(2024年のFAccT学会で正式発表)。この論文は、汎用の生成AIモデルは特定タスク向けモデルと比較して推論時のエネルギー消費・炭素排出が桁違いに高いことを初めて体系的に示した。
また、異なるAIモデルの気候影響を比較できる「AIエネルギースターレーティング」評価指標の開発にも取り組んでいる。
AIの偏りと倫理 ルッチオーニは生成AIモデルに内在する偏りの分析にも取り組んでいる。「Stable Diffusion Bias Explorer」ツールを開発し、Stable Diffusionが生成する画像における性別・人種的偏りを可視化した。150種の職業に関して調査した結果、すべてのモデルで白人性と男性性が顕著に過剰表現されており、弁護士やCEOがほぼ100パーセント男性として描かれることが示された。このツールは国連のジェンダーバイアスに関するイベントでも紹介された。
大規模言語モデルの訓練に使用されるデータセットの内容分析(Common Crawlコーパスにおける望ましくないコンテンツの分析など)や、データセットの廃止・文書化に関するフレームワーク研究も発表している。
AIと気候変動への応用 気候変動に対処するAIの有益な応用についても研究しており、森林伐採の検出、生物多様性の追跡、財務開示における気候リスクの特定などへの活用を探求している。
コミュニティ活動
Climate Change AI(CCAI、気候変動AI)の創設メンバー Women in Machine Learning(WiML、女性機械学習研究者ネットワーク)の理事会メンバー(2022年–) NeurIPS 2022の倫理審査委員長 ICLR 2023「Tackling Climate Change with Machine Learning」ワークショップの共同主催者(ルワンダ・キガリ開催) OECD、国連、NeurIPS等の機関からAI倫理・持続可能な実践の専門家として招聘
受賞・表彰
ANTIDOTEフェロー・自然言語処理奨学金(2021年) ナショナル・ジオグラフィック「AI for Earth Innovation Grant」(2020年)/ナショナル・ジオグラフィック・エクスプローラー(2023年) IVADOポスドク奨学金(2020年–2022年) 「Brilliant Women in AI Ethics」リスト掲載(2022年) MIT Technology Review 「35歳未満のイノベーター35人(Innovators Under 35)」(2023年) La Presse によるケベック州の注目すべき12人のインフルエンサーに選出(2023年) TIME 誌「AIにおける最も影響力のある100人(TIME100 AI)」(2024年) Business Insider 「AI Power List」(2024年・2026年) BBC「100 Women」(2024年)
主要著作・論文
査読付き論文
講演・メディア 2023年10月、TEDウィメン(TEDWomen 2023、アトランタ)にて講演「AI is Dangerous, But Not for the Reasons You Think(AIは危険だ、ただしあなたが思う理由とは別の理由で)」を発表。 2024年1月の動画公開後、3ヶ月足らずで100万回以上再生された。 2025年10月には第2回TED講演を発表した。
研究成果は MIT Technology Review、WIRED、Wall Street Journal、Washington Post、Bloomberg、CBC 等の主要メディアで広く取り上げられている。
ルッチオーニの思想
すべてのAIは「責任あるAI」であるべき ルッチオーニは、「責任あるAI(Responsible AI)」を通常のAI開発から切り離された専門分野として扱う業界の慣行に一貫して異議を唱えてきた。
RBC Borealisのインタビューで、「責任あるAIを、AIというフィールド全体から切り離して考えることに、私はずっと違和感を覚えてきました。今やAIは研究室を出て、どんなAIの理論も製品やツールになって実社会に展開される可能性があります。だからこそ、すべてのAIは責任あるAIであるべきだと思います」と述べている。OpenTextでの講演でも同様に、「『AIカー』と『安全なAIカー』が別々に存在するとしたら、おかしいでしょう。すべての車が安全であるべきなのですから。AIも同じです。すべてのAIが責任あるものであるべきです」と語っている。
現在的リスクへの集中 ルッチオーニはAIの「実存的リスク(existential risk)」や「シンギュラリティ」に関する議論が過熱する中、AIが今すでに社会や環境に与えている具体的・測定可能な影響こそを優先課題とすべきだという立場を明確にしている。
「10年後・20年後に何が起きるかは、私にも誰にも分かりません。でも、AIが真空の中に存在しているわけではなく、今この瞬間にも社会の一部として人々と地球に影響を与えているのは分かります」と述べており、研究の焦点を将来の思弁ではなく現在の定量的な測定と緩和に置いている。
AI開発での「素早く動いて壊せ」姿勢の批判 ルッチオーニは、生成AIが研究段階を飛ばして商用製品として急速に展開される潮流に対して懸念を示している。
RBC Borealisのインタビューで、「以前はモデルをリリースしてから、研究者たちがバイアスを探したり、エッジケースでの失敗を検証したりできました。しかし今は、新しいモデルがユーザーインターフェースに直接リリースされ、商業的・独自的であるため、真に独立した研究者がアクセスしてテストできないことが多い。多くの潜在的リスクは、この『素早く動いて壊せ(move fast and break things)』という姿勢から生まれていると思います」と述べている。
汎用モデルより特化型モデルを支持 汎用の大規模言語モデルを万能ツールとして展開する業界の趨勢に対して、ルッチオーニは一貫して特定タスク向けの小規模モデルの優位性を主張している。 OpenTextでの講演で、「汎用の生成AIモデルをあらゆるものに組み込もうとする方向性は、最善の道ではありません。これらのシステムは質問への回答は得意ですが、その回答は非常に平均的で、他の文化や言語を代表していない。特化型モデルの方が効率的で、軽量で、目的のタスクに適しています」と語っている。 この立場は「Power Hungry Processing」論文でも実証的に裏付けられており、同論文では汎用生成AIモデルの推論コストが特化型モデルの最大14倍になることを示している。
AIと女性・多様性 ルッチオーニは、AIの研究・開発における多様性の欠如を重大な問題と捉えており、自らが多様性促進の実践者でもある。
OpenTextでの講演で、「コンピューターサイエンスの授業を見渡したとき、女性は数人しかいませんでした。博士課程では、コホートの中で女性は私一人でした。これは、誰かが部屋に女性として居続けなければならないという、強いシグナルでした」と振り返っている。 MLカンファレンスで論文を発表する人のうち女性はわずか11%であることを指摘し、Women in Machine Learning(WiML)の理事として、女性研究者のネットワーク形成・メンタリング・育児支援などに取り組んでいる。
AIは道具であり、最終的に責任を負うのは人間 ルッチオーニはAIを万能の解決策として捉えず、適切な課題に対して専門家と連携して使う「道具」として位置づけている。
The Creative Processのインタビューで、「AIは問題を単独で解決することはありません。しかし道具として使うことができます。気候変動についての衛星データやセンサーデータのような大量のデータに対処するためには、ドメインの専門家と協力しながらAI技術を活用することに大きな可能性があると思っています」と述べている。
発言 前節のルッチオーニの思想を理解する助けとして、彼女自身が各種講演・インタビューなどで行った代表的な発言を次に引用する。
AIの環境コストと透明性
クラウドの物質的実体 「AIモデルが住んでいるあのクラウドは、(実体のないクラウド=雲などではなく)実際には金属とプラスチックでできていて、膨大なエネルギーで動いています。AIに問いかけるたびに、地球への環境コストが生まれているのです。」 (原文:"That cloud that AI models live on is actually made out of metal, plastic, and powered by vast amounts of energy. And each time you query an AI model, it comes with a cost to the planet.") 出典:TED講演「AIは危険だ、ただしあなたが思う理由とは別の理由で」(2023年10月)
企業による不開示 「テック企業は(環境コストを)測定していません。開示もしていません。だからこれはおそらく氷山の一角に過ぎないのです――たとえそれが、溶けつつある氷山だとしても。」 (原文:"Tech companies aren't measuring this stuff. They're not disclosing it. And so this is probably only the tip of the iceberg, even if it is a melting one.") 出典:TED講演「AIは危険だ、ただしあなたが思う理由とは別の理由で」(2023年10月)
AIの現在的リスクと将来リスク
今起きていることへの視線 「10年後・20年後に何が起きるかは、私にも分かりませんし、誰にも分からないでしょう。でも今この瞬間にも、かなり深刻なことが起きているのは分かります。AIは真空の中に存在しているわけではありません。AIは社会の一部であり、人々と地球に確実に影響を与えています。」 (原文:"I don't know what's going to happen in 10 or 20 years, and nobody really does. But what I do know is that there's some pretty nasty things going on right now, because AI doesn't exist in a vacuum. It is part of society, and it has impacts on people and the planet.") 出典:TED講演「AIは危険だ、ただしあなたが思う理由とは別の理由で」(2023年10月)
次世代AIへの要件 「AIの影響を追跡し始めなければなりません。透明化して、開示し始めなければなりません。そして、AIをより深く理解するためのツールを作っていかなければならない。そうしてはじめて、次の世代のAIモデルはより信頼でき、より持続可能で、おそらくより安全なものになれるのです。」 (原文:"We need to start tracking its impacts. We need to start being transparent and disclosing them and creating tools so that people understand AI better, so that hopefully future generations of AI models are going to be more trustworthy, sustainable, maybe less likely to kill us.") 出典:TED講演「AIは危険だ、ただしあなたが思う理由とは別の理由で」(2023年10月)
バイアス・著作権・データの倫理
アートは食べ放題ではない 「人間が創造した作品を、AIの言語モデルを訓練するための『食べ放題ビュッフェ』にしてはならないのです。」 (原文:"Artwork created by humans shouldn't be an all-you-can-eat buffet for training AI language models.") 出典:TED講演「AIは危険だ、ただしあなたが思う理由とは別の理由で」(2023年10月)
法執行とバイアスの危険 「バイアスを抱えたモデルが法執行の現場で使われると、虚偽の告発、さらには不当な投獄さえ引き起こしかねません。これは決して仮定の話ではなく、近年、実際に複数の事例として起きていることです。」 (原文:"When biased models like this are deployed in law enforcement settings, this can result in false accusations, even wrongful imprisonment, which we've seen happen to multiple people in recent months.") 出典:TED講演「AIは危険だ、ただしあなたが思う理由とは別の理由で」(2023年10月)
責任あるAIと規制
すべてのAIは責任あるAI 「責任あるAIを、AIというフィールド全体から切り離して考えることに、私はずっと違和感を覚えてきました。今やAIは研究室を出ました。どんなAI理論も製品やツールになって実社会に展開される可能性が高い。だからこそ、すべてのAIは責任あるAIであるべきだと思います。」 (原文:"I have always thought it strange that we would separate Responsible AI from the rest of the field. I would argue that all AI should be Responsible AI, particularly now that AI has officially left the research lab. In today's market, any AI theory has a pretty high probability of making it into a product or tool that will be deployed in real life.") 出典:RBC Borealis「RESPECT AI」インタビュー(2023年11月) AIに反対するのではなく、賢く使う 「ここで言いたいのは、AIに反対しようということではありません。適切なツールを選んで、賢く使っていこう、ということです。」 (原文:"The idea here is not to oppose AI, but rather to choose the right tools — and use them judiciously.") 出典:AFPインタビュー、モントリオール「ALL IN」AI会議(2024年9月)
脚注
外部リンク 公式ウェブサイト Hugging Faceプロフィールページ Google Scholar