100年以上にわたって最先端の技術を提供してきたIBM。技術は、人間の力そしてインテリジェンスを高めるための手段であるということは今でも変わりません。多くの可能性を秘めたAIモデルの活用は、使う人間にとって価値があってこそ力を発揮します。そのために、人間が主体性をもってAIのライフサイクルにわたってリスク管理するという人間中心の考え方が重要です。それはIBMのAI倫理原則にも組み込まれ、IBM watsonxの開発・提供においても重要な布石となっています。本稿では、企業が最先端技術を使って新しい価値を創造する際に、法令遵守に留まらないAI倫理・リスクに対応するため、何をどのように考えたらよいのかについて解説します。
IBMの100年の歩み ― 機械はそれを使う人間の力を高めること
1911年、パンチカードで知られる人口調査の表を作成するHollerith’s Tabulating Machine社が、オハイオ州の食肉スライサーや秤のメーカーであったComputing Scale Company of America社と商用時計のメーカーであったInternational Time Recording社と合併し、IBMの前身であるC-T-R社が誕生しました。その後1924年にInternational Business Machines(IBM)と社名変更し、今年100年になります[1](図1参照)。IBMは、1960年から72年にかけてはメインフレームでNASAのアポロ計画を支え、80年代にはパーソナルコンピューター、90年代はソフトウェア、2000年代以降はクラウドコンピューティング、AI、量子コンピューターといった様々な最先端技術を提供し続けてきました。そして今日は生成AI。IBMは昨年５月に基盤モデルのプラットフォームwatsonxを発表しました。世界は大きな変化の真っただ中にあり、今後、生成AIを含む技術によりイノベーションが次々と起こることが期待されています。
図1．1932年ブラジル・インターナショナル・ビジネス・フェアにおけるIBMの地球をかたどったロゴと当時の製品のディスプレイ
時代の変遷とともに変わるテクノロジーを提供し続けてきたIBMの歴史の中で、忘れてはいけないことは、IBMの2代目社長のトーマス・ワトソン・ジュニアの言った「Our machines should be no more than the tools for extending the powers of the human beings who use them(我々の機械はそれを使う人間の力を拡張する道具にすぎない)」という考え方です。
生成AIや様々な最先技術それ自体はあくまで技術であり、一つのツールにすぎません。これらの技術の真の価値は、その活用によって何を達成するのかにあります。AIはそれを使う人間の力を高めるためのもの。言い換えれば、企業がAIを活用して価値創造者となるためのツールなのです。
生成AIで仕事がなくなる？
AI技術の急速な発展で仕事が奪われる、世の中は大変なことになると懸念されている背景には、シンギュラリティ議論[2]や「機械との競争」[3]への漠然とした不安や未知のものへの畏怖があります。米スタンフォード大学兼任教授で、AI fundゼネラルパートナーのAndrew Ng (アンドリュー・ング)氏は、100年前の電気という汎用技術が社会を変革したように、今AIが社会に大きな変革をもたらそうとしていると語っています[4]。今の時代、電気で仕事が奪われるという人はいません。むしろ現代では電気のない生活は考えられません。同じように、生成AIのない生活は考えられない時代になるでしょう。そこでは、AIが人間の仕事を奪い、人間の仕事が減少するわけではなく、AIで人間の仕事が変容するということです。著者が弁護士として駆け出しだった2000年代初めには、M&A(企業の合併買収等)のデューデリジェンス(事前の企業情報調査)はすべて紙ベースでした。誰がどのような資料を閲覧したりコピーしたのかや質問と回答などすべて手作業で行っていました。今では、ほぼすべての情報がデータベース化されて閲覧情報などがオンラインで管理されており、データを正確にスピーディに分析できるようになりました。人間は、新しい技術により煩わしいルーチーンとなっている作業から解放され、よりインテリジェンスが求められる仕事をする時間やスキルアップや新たな仕事の機会を得ることができるようになりました[5]。
AI倫理は企業の進むべき道を示すロードマップ
今後AIは非常に広い分野で活用されるようになりますが、AIが完全に人間を置き換えることはできない分野もあります。例えば、軍事、医療、教育や就労、法執行分野など、何か起こった時に責任の所在は人間にある分野、人の人生を左右する決定を含む分野、あるいは弁護士など職業上の義務がある分野などです。ただそれらの分野でも全くAIが利用されないわけではなく、必ず人間が担う部分とAIに任せる部分の線引きが議論されています。そしてその線引きをする際に、倫理が重要になります。
倫理は、法の眼(合法性)だけでなく、社会の眼(社会的な受容性、つまりある社会集団に受け入れられるか)からの考察が重要で、国や世代、また時代が変わることで社会的受容性も変わることからとても難しい問題です(図2参照)。では「この技術を使うと倫理的な悪影響があるかもしれないから止めよう」では、せっかくのイノベーションの機会が喪失してしまいますし、競合他社に対して競争力を発揮できません。不愉快・不平等・差別を感じる人や受け入れられない人も一定数いることを考えながら、リスクはゼロにできないことを理解して、ではどう回避・低減するのかを考えながら前に進むべきでしょう[6]。
IBMには技術倫理について、古くからしっかりした軸があります。対外的には「信頼と透明性の3つの原則」(AIの目的は人間のインテリジェンスを高めること、データと洞察はその創造者に帰属すること、AIを含む技術は透明かつ説明可能でなければならないこと)と信頼できるAIの基本特性(説明可能性、公平性、堅牢性、透明性、データの権利・プライバシーの尊重)として公表しています[7](図3参照)。その原則には、AIの目的は人間のインテリジェンスを高めることが含まれています。こうした軸があるから、watsonxなど最先端技術の開発においても、何をすべきか、何をしてはいけないのかが明確になり、どうしてそれを行ったのかという説明責任を果たし、また透明性も確保できます。つまり倫理はブレーキの役割ではなく、むしろ開発者・利用者にロードマップを示すことによってイノベーションのアクセルの役割も担うことができるのです[8]。
人間による監督(Human Oversight)
今般、グローバルでAIに関する規制やガイドラインが次々と整備される中、著者が重要と考えるのが「人間中心の原則」とそれを実践するための「人間による監督」です。これは先のトーマス・ワトソン・ジュニアの言葉にも通じています。
日本では2019年3月に政府が主導する統合イノベーション戦略推進会議が策定した「人間中心の AI 社会原則」[9]や、それを取り込んだ「AI事業者ガイドライン(第1.0版)」(総務省・経産省が今年4月19日に公表)[10]の基本原則においても、人間中心の考え方が謳われています。そして、特に軍事・治安維持・医療といった重要な分野では特に「人間による監督」は必須というガイドラインや見解が公表されています。
EUでは、2024年5月21日、包括的なAIに関する規制であるAI規則が成立しました[11]。同規則は、リスクベースのアプローチを採用しており、リスクの多寡によって個別のユースケースに応じた様々な要件・遵守義務があり、今後、具体的な手続きや運用詳細が決定されて段階的に適用されます。ハイリスクといわれるAIのユースケースに課せられる要件の一つとなっているのが、人間の主体性と意思決定プロセスを尊重することを保証する、人間による監督(第14条)です。これは同規則が基盤とする「人間中心の原則」を具現化する手段の一つであり、それが罰金を伴うハードロー(法的拘束力がある法律)として施行されることは注目に値します。同規則では、人間による監督により、人間がAIの機能を理解して異常があればそれを検知できるようになること、人間はAIの判断や推奨を過信する傾向にあることを理解すること、AIのアウトプットを否定したり無効化できること、そして必要な場合にAIの利用を停止する機能(ストップ・ボタン)を使って介入することを求めています。またAI規則は、リスクレベルを問わず、自社で行動基準(Codes of Conduct)を策定して遵守することを推奨しており、人間による監督も含まれています。第14条の要件は、欧州の標準化団体(欧州標準化委員会(CEN)や欧州電気標準化委員会(CENELEC)等)に対して標準化作業が委託され、行動基準の策定はAIオフィスが支援する形で具体化されることになっています。
こうした標準化された項目を自社の管理体制に取り込み、AIのライフサイクルを通じて人間がその影響を監視することは、単なる法令遵守対応ではなく、責任をもってイノベーションを起こす機会として捉えるべきです。それには、倫理的配慮を組み込むこと、つまり様々なステークホルダーの期待に応えるためのAI倫理・リスクガバナンス体制を自社の事業開発・リスク管理の軸としていくことが求められます。
AIの価値創造者となるために
図4．IBMの信頼と透明性に関するポリシーTrust Transparency - IBM Policy
世界競争力が低下する日本において[12]、生成AIや最先端技術を活用したDXの推進は待ったなしとなっています。ただ、多くの企業でシステム化や業務効率化といったコスト削減を目的とした取組みで満足してはいないでしょうか。あるいは、生成AIを使うことが目的化したり、他社が用意したAIやそのアプリケーションを使うだけのAIユーザーに終止してしまっていないでしょうか。
生成AIなどの最先端技術は、人間の力そしてインテリジェンスを高めるための手段です(図4参照）。自社は何を実現したいのか、自社の社会にとっての存在意義(パーパス)は何か、そのために誰に何を届けたいのかといった、使う人間にとっての価値こそが技術の真価です。IBMはIBM watsonxという信頼できるツールを提供することで、多くの可能性を秘めたAIを活用する企業にとって、そして人間を中心に置いた社会にとって、新しい価値を創造することを支援しています[13]。
おわりに
日本IBMは、IBM本社のAI倫理・リスクガバナンスのフレームワークを日本で実践につなげるためにAI倫理チームを立ち上げました。著者はチームの一員として、お客様のAI利用案件の倫理審査も担当しています。一昨年よりIBMグローバルでも、AI倫理に関する組織が強化され、社内プロセスが整備されています。IBM本社のAI倫理委員会は技術と法律の専門家の女性がツートップを務め、その他の重要なポストには女性や多様性を持った人財が活躍しています。技術分野だけでなく、法律・コンプライアンス、コンサルティング、広報、人事、そして性別、国籍、人種、経験等を問わず、より幅広い視点を取り入れることで倫理的なAIの活用が可能になります。AI倫理・リスクガバナンスは技術部門や経営企画部だけがやればよいというのではなく、人間中心のあるべき未来社会を考え、企業で働く一人ひとりの責務として捉えてほしいと思います。
［参考文献］
[1] IBM：The Origins of IBM , https://www.ibm.com/history/ctr-and-ibm
[2] Ray Kurzweil：The Singularity is Near：When Humans Transcend Biology, Penguin Books, 2006年9月26日, https://singularity.com/
[3] エリック・ブリニョルフソン、アンドリュー・マカフィー(著) 村井章子 訳 「機械との競争」日経BP、2013年2月12日, https://bookplus.nikkei.com/atcl/catalog/13/P49210/
[4] アンドリュー・ング：「生成AI、電気のように社会変革」、NIKKEI生成AIコンソーシアム第1回会合 講演から, https://bizgate.nikkei.com/article/DGXZQOLM0721T007082023000000
[5] IBM：Augmenting Human Intelligence – the IBM Point of View, https://www.ibm.com/downloads/cas/2ZDOY697
[6] 日本IBM AI倫理チーム著 日経BP 2023年12月15日 「AIリスク教本 攻めのディフェンスで危機回避＆ビジネス加速」, https://bookplus.nikkei.com/atcl/column/032900009/120100482/
[7] IBM：AI倫理, https://www.ibm.com/jp-ja/impact/ai-ethics
[8] 望月朝香 AIの信頼性「信念をもってAIの現在と未来へ取り組む」, https://community.ibm.com/community/user/japan/blogs/provision-ibm1/2024/06/04/vol100-0002-ai
[9] 「人間中心の AI 社会原則」(内閣府統合イノベーション戦略推進会議 2019年3月29日決定・公表), https://www8.cao.go.jp/cstp/ai/ningen/ningen.html
[10] 「AI事業者ガイドライン(第1.0版)」(総務省・経産省 2024年4月19日公表), https://www.meti.go.jp/press/2024/04/20240419004/20240419004-1.pdf
[11] 欧州理事会 プレスリリース 2024年5月21日 Artificial Intelligence(AI)act: Council gives final green light to the first worldwide rules on AI, https://www.consilium.europa.eu/en/press/press-releases/2024/05/21/artificial-intelligence-ai-act-council-gives-final-green-light-to-the-first-worldwide-rules-on-ai/pdf/
[12] IMD世界競争力センター「IMD世界デジタル競争力ランキング」2023年版, https://www.imd.org/news/world_digital_competitiveness_ranking_202311/
[13] 倉田岳人・三保友賀 「生成AIで企業はどう変わる？ 経営者が押さえたい基礎知識 日本IBMに聞く: いま起こっている変化の本質とは」、ITmedia ビジネスオンライン, https://www.itmedia.co.jp/business/articles/2310/31/news017.html
IBM、IBM ロゴは、米国やその他の国におけるInternational Business Machines Corporationの商標または登録商標です。他の製品名およびサービス名等は、それぞれIBMまたは各社の商標である場合があります。現時点でのIBMの商標リストについては、https://www.ibm.com/legal/copyright-trademarkをご覧ください。
ProVision一覧はこちらから
#Highlights
#Highlights-home