OpenAI 人工知能によって生成されたテキストを識別するツールを開発します

A OpenAI、 の責任者 ChatGPTは今週火曜日(31日)、人工知能によって作成されたテキストを識別するツールを発表した。これは、プラットフォームを学習への脅威とみなす世界中の教育者からの苦情に対する解毒剤となるだろう。

権利を与えられた 「Aiテキスト分類器」、このツールは次のように機能します。AI によって作成された可能性のある不審なテキストを取得し、指定されたスペースに貼り付けます。そこから、サイトは文書をチェックして次のように分類します。 

宣伝

  • AIによって生成された可能性は非常に低い
  • ありそうもない
  • 不明瞭
  • 可能性というか可能性が高い。

理解する:


ツールはテスト段階にあります

テキストの参照が容易であるにもかかわらず、アライメントの責任者は、 OpenAI, Jan Leike氏は、米国のAxiosポータルとのインタビューで、「偽陽性と偽陰性」が存在する可能性があると述べた。

責任者 OpenAI また、プラットフォーム障害の可能性を減らすために、貼り付けたテキストは 1000 語以上で、できれば英語であることが推奨されています。 

についての懸念 ChatGPT

人工知能によって生成されたコンテンツをめぐる懸念は、世界中の教育者や団体が次のような事実を暴露した後に生じました。 ChatGPT 人間が行うべき活動に使用されていたのです。たとえば、ニューヨークの学校ではAIの使用さえ禁止されています。

宣伝

A OpenAI 彼はまた、人工知能によって生成された物質を識別するための他のツールも開発中であると述べています。透かしを含めたり、テキスト チェック サイトを改善したりすることも代替策です。

OpenAI 人工知能によって生成されたテキストを識別するツールを開発します(複製) OpenAI/キャンバス)

詳細情報

スクロールアップする