何かが AI かどうかを判断できる新しいツール

新しい研究によると、カンザス大学が開発した AI 検出器は、学術論文内の AI 生成コンテンツを 99% の精度で検出できることが判明しました。これは、市場で学術論文に特化した唯一の検出器の 1 つです。

本物の人為的ミス？ おそらく、しかし少なくとも人工知能ではありません。

Cell Reports Physical Science誌に水曜日に掲載された報告書によると、研究者らは学術論文におけるAI検出を99%の精度で証明できるツールを作成したという。

研究者チームは 64 の視点 (記事の一種) を選択し、ChatGPT を使用してそれらを使用して 128 の記事を作成し、AI 検出器のトレーニングに使用しました。

このモデルは、人間が作成した記事と AI が作成した記事を識別する精度が 100%、テキスト内の特定の段落を識別する精度が 92% でした。

Study.com の調査によると、大学生の 89% が課題を支援するために ChatGPT を使用していることを認めており、教育者の 34% はこのソフトウェアは禁止されるべきだと考えていますが、66% は学生がアクセスできることを支持しています。

「現時点で、AIの執筆にはかなり明らかな問題がいくつかある」と筆頭著者のヘザー・デゼア氏は声明で述べた。 「最大の問題の 1 つは、多くの情報源からテキストが集められており、正確性のチェックがまったく行われていないことです。ゲームのようなものです。二つの真実と嘘。」

AI 検出器が 100% 正確であることは証明されていません。 カリフォルニア大学デービス校の学生が、AIを使った不正行為で大学から不当に告発されたと主張した。 授業の 1 つで論文をアップロードした後、彼女は教授から、プログラム Turnitin で AI が生成したものとして一部がフラグを立てられたと主張する電子メールを受け取りました。 彼女の事件は直ちに、学術的不正行為の懲戒を担当する学生支援・司法事務局に転送された。 学生は訴訟を起こし、最終的にはタイムスタンプを使って論文を書いたことを証明して勝訴した。 教育者が課題を AI によって生成されたものとして誤ってラベル付けされたのはこれだけではありませんでした。 テキサス州 A&M の商学教授は、ChatGPT を使用して学生がチャットボットを使用して論文を書いているかどうかをテストした後、上級クラスの半数以上を落第させようとしました。 彼は書類をコピーして ChatGPT に貼り付け、それが書かれたかどうか尋ねると、「はい」と答えました。 このため、教授は課題をやり直す機会を提供したが、大学は彼らの卒業証書を差し控えた。 しかし、大学はインサイダーに対し、不合格になったり卒業を妨げられた学生はいないことを認めた。

OpenAI のチャットボットである ChatGPT は 2022 年 11 月に一般公開され、1 週間も経たないうちにユーザー数が 100 万人を超え、人々はコードの作成やエッセイの執筆などに使用しました。 AI のインテリジェンスにより、ニューヨーク公立学校、シアトル公立学校、ロサンゼルス統一学区を含むいくつかの学校がソフトウェアを無期限または一時的に禁止することになりました。

AI で書かれたコンテンツを識別することを約束する既存のプログラムやサービスはすでにたくさんあります。

学校における ChatGPT: 禁止されている場所と、それが生徒たちにどのような影響を与える可能性があるか (Forbes)

OpenAI の ChatGPT について知っておくべきこと — それが何を破壊し、どのように使用するか (Forbes)