AIリーガルツール、作り話の回答が半数
スタンフォード大学の研究チームは、AIを利用した法的リサーチツールが”ハルシネーション”(作り話)をする傾向があることを発見しました。
このNEWSをAIが簡単要約
- AIリーガルツールの半数が作り話。
- 法的概念の理解が不十分が原因。
- 人間の検証が不可欠と指摘。
彼らは、主要なAIリーガルリサーチツールを分析し、出力された回答の約半数が完全に作り話であったり、根拠のない主張が含まれていたりすることを確認しました。
この問題は、AIモデルが訓練データから法的な概念を適切に学習できていないことに起因しています。
法的文書は複雑で専門用語が多く、AIモデルがその意味を十分に理解できていないのが原因。
また、AIツールは自身の出力に高い確信を持っているものの、実際には間違った情報を生成していることも判明している。
研究チームは、完全に頼るのではなく、人間の法律家がAIの出力を吟味し、検証する必要があると提言。
このようなAIリーガルツールの問題点を指摘し、法的分野でAIを活用する際の注意を促しています。
参考記事：VentureBeat
生成AIを社内で活用していきたい方へ
「生成AIを社内で活用したい」「生成AIの事業をやっていきたい」という方に向けて、朝の通勤時間に読めるメルマガを配信しています。
最新のAI情報を日本最速で受け取りたい方は、以下からご登録ください。
また、弊社紹介資料もご用意しておりますので、併せてご確認ください。
