生成AIとメンタルヘルスに関する知識を学べるコミュニティも運営予定。
株式会社Awarefyのプレスリリース
株式会社Awarefy（本社：東京都新宿区、代表取締役 CEO 小川 晋一郎、以下「アウェアファイ」）は、CEO小川が代表理事を、CTO池内が理事をつとめる一般社団法人AIメンタルヘルスケア協会（以下「AIMH」）として、「メンタルヘルスケア事業者 のための生成AI活用ガイドライン（案）」ならびに「チェックリスト・相談窓口リスト」を公開いたしましたことをお知らせいたします。
「メンタルヘルスケア事業者 のための生成AI活用ガイドライン（案）」ならびに「チェックリスト・相談窓口リスト」
https://www.aimh.or.jp/guideline
本ガイドライン策定の背景
生成AIの進化は著しく、産業界や医療分野をはじめとしたさまざまな領域において、実用化に向けた先進的な取り組みが加速しています。メンタルヘルスケア領域もその例外ではなく、生成AIの活用を通じて、従来は解決が困難であった課題に対する新たなアプローチが期待されています。
一方で、メンタルヘルスケアは、生命・身体・精神に深く関わる繊細な領域であることから、サービスの安全性確保が極めて重要な課題となります。そのため、生成AIの活用にあたっては、従来以上に熟慮と責任ある対応が強く求められます。これは、精神疾患の治療を目的とした医療従事者および患者向けのサービスに限らず、日常的な気分改善や自己理解を支援する一般向けサービスにおいても同様です。このような背景のもと、AIMHでは、本ガイドラインを策定いたしました。
本ガイドラインの概要
本ガイドラインは、経済産業省および総務省による「AI事業者ガイドライン」を参照しつつ、メンタルヘルスケア領域における生成AIの安全かつ適切な活用を促進するための具体的な指針を提示することを目的としています。
とりわけ、メンタルヘルスケア関連の事業者が生成AIを活用してサービスを開発・運用する際に留意すべき要点を明確にすることで、ユーザーの安全を確保するとともに、事業者が直面し得るリスクの軽減を図る構成となっています。
適用範囲は、以下を前提として策定されています。
・対象となるAI技術
主にテキスト生成を行う大規模言語モデル（LLM）を対象としており、画像生成や音声処理を含むAIについては、将来的な検討課題としています。
・対象となる関係者
生成AIをメンタルヘルスケア関連サービスへ組み込むAI関連事業提供者を主な対象としています。
・主たる論点
「生命・身体・精神の安全」の確保を中核とするリスクマネジメントの観点から、生成AIの活用における倫理的・実務的配慮事項を重点的に取り扱っています。
また、生成AIを活用したメンタルヘルスケアサービスの提供にあたり、事業者が取り組むべき重要な領域として、以下の4つの観点を整理しています。
-
AIモデルの選定
利用するモデルの安全性、モデレーション機能、学習データの品質、利用規約の遵守等の観点から、適切なモデルを選定すること。
-
組織体制の整備
情報セキュリティ対策、専門家の監修体制、リスク管理チームの設置、ならびに継続的なスタッフ教育・研修の実施。
-
サービス品質の担保
入力情報の利用範囲の明示、必要に応じた専門家との連携体制の構築、サービスの検証・評価体制、ならびにハルシネーション（誤情報生成）の抑制策。
-
情報の開示
ユーザーおよび支援者が正しく理解し安心して利用できるよう、わかりやすく適切な情報提供やガイダンスを行うこと。
さらに、世界保健機関（WHO）によって指摘されている生成AIに関する6つの主要リスクについて、架空の事例を用いて本ガイドラインがどのように対応し得るかを検討しています。
加えて、「専門家との連携」の一環として、公的機関が運営または委託する相談窓口一覧を併記し、利用可能な支援体制の明確化にも努めています。
なお、本ガイドラインで言及されている「生成AIを提供する際に取り組むべきポイントのチェックリスト」および「公的機関が運営または委託を行う相談窓口一覧」については、利便性を考慮し、別添資料としてシート形式でご提供しております。必要に応じてご参照ください。
※ご参照先はこちら
今後について
本ガイドラインは、現時点では「案」としての位置づけにとどまっております。今後、より多くの皆様との建設的な議論を通じて、実践性と有用性を兼ね備えたガイドラインへと進化させてまいります。併せて、生成AIの急速な技術進展に対応しながら、事業者を含むあらゆる関係者が、生成AIとメンタルヘルスに関する知識を相互に学び合えるコミュニティの構築も進めていく予定です。今後の活動にご期待ください。
一般社団法人AIメンタルヘルスケア協会（AIMH）とは
AIMHは、AIによるメンタルヘルスケアサービスの質の向上と利用者にとっての安心・安全な環境作りに貢献するために、2024年に設立されました。AI技術の進化がもたらす新たな可能性と、それに伴うリスクに対して真摯に向き合い、安全で効果的なメンタルヘルスケアの提供を促進するための活動を行っています。
株式会社Awarefy(アウェアファイ)
私たちは、最先端AIテクノロジーに、科学的なエビデンスのある「認知行動療法」等に基づくアプローチをかけあわせたAIメンタルパートナー「アウェアファイ」アプリの開発・運営を中心とした事業を展開しています。人々が自分の“大切にしたいこと“と向き合える社会を実現すべく、アプリの機能拡充にとどまらず、復職・職場復帰を目指す方をサポートする施設「アウェアファイ リワーク」の運営など、メンタルヘルスケアの領域での貢献を目指します。
所在地：東京都新宿区西新宿2丁目6-1 新宿住友ビル24階 GROWTH新宿 ROOM-4
代表取締役CEO：小川 晋一郎
事業内容：アプリ「アウェアファイ」の企画・開発・運営、 福祉リワーク施設「アウェアファイ リワーク」の運営等
【本件に対するお問い合わせ先】
AIMH相談窓口：info@aimh.or.jp