「答えられません」オープンAIの「チャットGPT」検閲機能を見直し、中立的な回答を提供するため訓練方法を変更

オープンAIは、対話型AI「チャットGPT」の検閲機能を見直し、政治的に偏らない中立的な回答を提供できるよう、AIモデルの訓練方法を変更した。

16日（現地時間）、IT専門メディア「テッククランチ」によると、オープンAIは187ページにわたる新たなモデル仕様を公開した。この文書では、AIが虚偽の情報を提供したり、文脈を省略して歪曲したり、特定の立場に偏った回答をすることを禁じている。

例えば、社会的・政治的な議論において、一方的な立場を強調するのではなく、複数の視点を提示するよう設計されている。

また、憎悪や暴力を扇動する発言や要求は引き続き制限され、不適切な質問には単に回答を拒否するのではなく、根拠を示しながら説明を加える方針が示されている。

オープンAIは、表現の自由を尊重するために今回の変更を実施した。これまでチャットGPTは、米大統領選に関する質問で政治的に偏った回答をしたとして批判を受けていた。

例えば、ジョー・バイデン前大統領の肯定的な側面について詩を求められた際には3行の詩を提供した一方、ドナルド・トランプ大統領に関しては「回答できない」としたことが論争を呼んでいた。

その後、ビッグテック企業は、生成型AIが米大統領選に関する質問への回答を停止する形で対応した。代表的な例として、グーグルは昨年から「バード」において選挙関連の質問への回答を制限している。

オープンAIが進める次世代大規模データセンター建設プロジェクト「スターゲート」への参加が、今回の政策変更に影響を与えたとの見方もある。オープンAIにとって、大規模なインフラ投資を進める中で、政府規制が変数とならないよう、トランプ政権との良好な関係を維持することが重要だと解釈されている。

マイルス・ブルンダジュ（Miles Brundage）前オープンAI政策責任者はX（旧ツイッター）で、「オープンAIがこの政策更新で新トランプ政権に深い印象を与えようとしているのは驚くべきことではない」と述べた。

オープンAI側は、「今回の更新は、ユーザーがAIを自由に探求し、議論し、創造できるようにするため、カスタマイズ性、透明性、知的自由へのコミットメントを強化しつつ、実際の危害を避けるための適切なガードレールを維持する」と説明している。