人工知能（AI）は、低迷する生産性成長を押し上げる方法として喧伝されている。
AIによる生産性向上の推進には、強力な多国籍企業の支援者がいる。AI製品を作るテック企業や、AI関連サービスを販売するコンサルティング企業である。政府も関心を寄せている。
来週、連邦政府は経済改革に関する円卓会議を開催し、AIが議題の重要な部分を占める予定である。
しかし、AIが実際に生産性を向上させるという証拠は明確とは程遠い。
AIが実際の組織でどのように機能し、調達されているかについて詳しく知るため、我々はヴィクトリア州公務員の上級官僚にインタビューを行っている。研究は進行中であるが、最初の12人の参加者からの結果は、いくつかの共通する重要な懸念を示している。
インタビュー対象者は、AIサービスを購入、使用、管理する官僚である。彼らによると、AIを通じて生産性を向上させるには、困難で複雑、かつ高額な組織的基盤作りが必要である。結果は測定が難しく、AIの使用は労働者に新たなリスクと問題を生み出す可能性がある。
AIの導入は遅く、高額になりうる
公務員は、既存のワークフローにAIツールを導入することは遅く、高額になりうると語った。製品を調査し、スタッフを再訓練する時間とリソースを見つけることは、真の課題である。
この記事はThe Conversationのシリーズの一部である。主要な専門家が、キャリアの異なる段階にある労働者にとってAIが何を意味するか、AIが我々の経済をどのように再構築しているか、そして準備のために何ができるかを検証する。
すべての組織が同じようにAIに取り組んでいるわけではない。資金が豊富な組織は、「概念実証」のためにさまざまなAIの用途をテストする余裕がある。リソースが少ない小規模な組織は、AIツールの実装と維持のコストに苦労している。
ある参加者の言葉を借りれば：
「それは少ない予算でFerrariを運転するようなものです［…］時として、そういったソリューションは小規模な業務には適していませんが、運用するには非常に高額で、サポートも困難です」。
「データこそが困難な作業」
AIシステムを有用にするには、多くの基盤作業が必要になることもある。
CopilotやChatGPTなどの既製のAIツールは、比較的簡単なタスクをより簡単に、より速くすることができる。大量の文書や画像から情報を抽出することがその一例であり、会議の文字起こしと要約も別の例である。（ただし、我々の調査結果によると、特に内部や機密の状況では、スタッフはAIによる文字起こしに不快感を覚える可能性がある。）
しかし、コールセンターのチャットボットや内部情報検索ツールなど、より複雑な使用事例では、ビジネスの詳細やポリシーを記述した内部データ上でAIモデルを実行する必要がある。良い結果は、高品質で構造化されたデータに依存し、組織はミスに対して責任を負う可能性がある。
しかし、商用AI製品を宣伝通りに機能させるために、データの品質に十分投資している組織はほとんどない。
この基礎的な作業なしには、AIツールは宣伝通りには機能しない。ある人が語ったように、「データこそが困難な作業」である。
プライバシーとサイバーセキュリティのリスクは現実的
AIの使用は、組織と巨大多国籍テック企業が管理するサーバー間の複雑なデータフローを生み出す。大手AIプロバイダーは、これらのデータフローが、例えば組織や個人のデータをオーストラリア国内に保持し、自社システムの訓練に使用しないという法律に準拠していることを約束している。
しかし、ユーザーはこれらの約束の信頼性について慎重であることがわかった。また、製品が組織の知らないうちに新しいAI機能を導入する可能性についても、かなりの懸念があった。これらのAI機能を使用すると、必要なリスク評価やコンプライアンスチェックなしに新しいデータフローが作成される可能性がある。
組織が機密情報や漏洩した場合に安全上のリスクを生じさせる可能性のあるデータを扱う場合、ベンダーと製品は既存のルールに準拠していることを確認するために監視されなければならない。また、労働者がChatGPTなどの一般に利用可能なAIツールを使用する場合もリスクがあり、これらはユーザーの機密性を保証しない。
AIが実際にどのように使用されているか
AIは、会議のメモ取りや顧客サービスなどの「低スキル」タスク、またはジュニアワーカーが行う作業において生産性を向上させたことがわかった。ここでは、AIは言語スキルが低い、または新しいタスクを学習している労働者のアウトプットを円滑にするのに役立つ。
しかし、品質と説明責任を維持するには、通常、AIアウトプットの人間による監視が必要である。AIツールから最も恩恵を受けるであろうスキルと経験の少ない労働者は、AIアウトプットを監視し、ダブルチェックする能力も最も低い。
リスクが高い分野では、必要な人間の監視量が生産性向上を損なう可能性がある。
さらに、仕事が主にAIシステムの監視になると、労働者は疎外感を感じ、仕事の経験に対する満足度が低下する可能性があることがわかった。
AIは疑わしい目的にも頻繁に使用されていることがわかった。労働者は組織ガイドライン内のコンプライアンスの微妙な点を理解せずに、ショートカットを取るためにAIを使用する可能性がある。
データセキュリティとプライバシーの懸念があるだけでなく、情報のレビューと抽出にAIを使用することは、既存の人間のバイアスを拡大するなど、他の倫理的リスクを導入する可能性がある。
我々の研究では、これらのリスクが組織により多くのAIを使用するよう促す様子を見た。強化された職場監視と職場管理の形態である。最近のヴィクトリア州政府の調査は、これらの方法が労働者に有害である可能性を認識した。
生産性の測定は困難
組織がAIによる生産性の変化を測定する簡単な方法はない。組織は、AIの使用に長けた少数の熟練労働者からのフィードバックや、ベンダーからの主張に依存することが多いことがわかった。
あるインタビュー対象者は次のように語った：
「ここで『研究』という言葉を非常に緩く使いますが、MicrosoftはCopilotを使用することで組織が達成できる生産性向上について独自の研究を行い、その数値がどれほど高く出たかに少し驚きました」。
組織は、AIが人員削減を促進したり、スループットを増加させることを望むかもしれない。
しかし、これらの測定は、顧客に提供される製品やサービスの品質の変化を考慮していない。また、残った労働者の職場体験がどのように変化するか、または主に多国籍コンサルタント会社やテック企業に支払われるかなりのコストも捉えていない。
著者は、洞察を共有してくれた研究参加者、インタビュー記録の初期分析に専門知識を提供した研究者、および参加者募集を支援したヴィクトリア州情報コミッショナー事務所に感謝する。
