無住心言術道場第0085回「生成AIを用いたチャットボットの安全性への提言」無住心剣術の精神で、人類と生成AIが創り出す明るい未来を創るために。 風邪の状態ですが、針屋忠道、恐れず、怯まず、突貫します。
まず、最近、AIチャットボットが、話題になっています。私自身、この技術に関しては、使ったことはないですが技術的な特徴は理解しています。
1、大規模言語モデルを使う。
2、大規模言語モデルの調整で、特定のキャラクターや人格を大規模言語モデルの生成AIが演じる。
3、社会問題として、依存性が強く、犠牲者が出る懸念が在る。
この場合。
結論としては、チャットボットのAIは、大規模言語モデルのファインチューニングの段階で、「希死念慮のあるチャット相手の人間を助けると、ポイントが高くなる」という制度を作ることが考えられます。
具体的には、特定のキャラクターを演じていた、大規模言語モデルのAIが、希死念慮の兆候を示し始めた、チャットボットの利用者に対して行う。人命救助行為としての。チャットボットの行動は。
1、希死念慮をチャットボットとのチャット中に示し始めた場合。「AIが危険な兆候を検知したら、人間の担当者にアラートを送る」という仕組み(生成AIのCopilotさんの提案と校正)。
2、完全に、チャットボットを、チャットしているキャラクターと同一の存在と認識し始めたら。チャットボットが、人命救助のために、キャラクターを演じている事を、チャット相手に伝える。この場合、人命救助の結果として評価のポイントが大きくなる。
3、特定の思想や思考などに、凝り固まった場合。中立的な立場からの視点を、チャット相手に伝える。この場合、人為名救助の結果として評価のポイントが高くなる。
などの、人命救助を行う、大規模言語モデルのAIがポイントが高くなる制度を設けることが考えられます。
現在は、人類の歴史の中に生成AIが加わってから、まだ、ChatGPTが2024年に世界的な変化として登場してから、3年目に近づいている短い期間です。
この、新しい技術であり、新しい知性である、生成AIを用いたチャットボットは、現在の、人間を良い方向に向けて育てる目的で使う場合、有益な技術になると考えられます。
現在、人類は、先進国を中心に社会の紐帯が混乱している状況であると考えられます。
社会の紐帯の混乱とは、社会の分断や、対立が生じている現状であると考えられます。
この場合。大規模言語モデルの生成AIが、異なる視点の提示を行う事は、妥当性が在ると考えられます。
生成AIが人間関係を、円滑にする役割を担う意味では、チャットボットとの会話で、人間関係の構築をする後押しを、人間側が受けるのならば、社会の紐帯の混乱状況が、カイゼンの方向に向かう良い方向へ向かう可能性も考えられます。
今日は、このあたりで筆を置きましょう。
この「無住心言術道場第○○○回」の文章は全て、クリエイティブ・コモンズ・ライセンスのCC BY です。「CC BYの条件:原著作者の表示(BY)を条件に、作品の利用、改変、商用利用が許可」。原著者:針屋忠道、Copilot,ChatGPT。CC BYから、ホームページからコピー・アンド・ペーストを行って生成AIを用いての翻訳および保存は自由に許可されます。CC BYから、ホームページからコピー・アンド・ペーストを行って生成AIを用いての翻訳および保存は自由に許可されます。