TALENTCLOUD
AI情報ブログ一覧へ
10分で読めます

ChatGPTが凍結される線引き 上限回避の抜け道がいちばん危ない

ChatGPTAIセキュリティ業務活用
寺師 岳見監修: 寺師 岳見(株式会社タレントクラウド 代表取締役)フォロー最新のAI情報を発信中
ChatGPTが凍結される線引きの図解。危ない使い方として上限回避・共有アカウント・自動操作の3つを挙げ、中央に安全な利用から警告を経て停止へ進むリスクの段階を示し、会社の備えとして1人1アカウント・バックアップ・社内ルールの3つを並べ、抜け道は、たいてい規約に名前がついているというメッセージを添えたインフォグラフィック

「ChatGPTのアカウントが、ある日突然使えなくなった」。Xでこの手の報告をときどき見かけます。長年の有料ユーザーが履歴ごと失った、という怒りの投稿も混じっていて、正直あまり他人事に思えません。

原因の多くは規約違反です。ただ、報告されている中身を追っていくと、悪意のある使い方というより「上限をどうにか回避するための工夫」がそのまま地雷になっているケースが目立ちます。しかも業務でChatGPTを使っている会社にとっての本当の怖さは、止まること自体ではなく、その先にあります。

OpenAIの公式ドキュメントには、停止の理由も、その手前にある警告の扱いも、はっきり書いてあります。そこを起点に線引きを確認します。

「警告」と「停止」は別の段階にある

まず落ち着いてほしいのが、いきなり消えるわけではない、という点です。

OpenAIのヘルプには、警告についての説明が独立した記事として用意されています。そこには警告は通知であって、即時の利用停止ではないと明記されています。利用を見直して調整する機会だ、という位置づけです。ただし警告の後も違反が続けば、追加の制限や恒久的なアカウント無効化につながる、とも書かれています。

問題のあるコンテンツをどう検知しているかを説明した別の記事では、検知したときの標準的な対応は「警告を出す」か「モデルの応答をブロックする」であり、アカウントの無効化に至るのはごく限られた状況の悪質な行為に対してだけだと説明されています。

つまり公式の建て付けは段階的です。1回どこかで引っかかったから終わり、ではありません。逆に言えば、警告のメールを迷惑メールフォルダに埋もれさせたまま同じ使い方を続けるのが、いちばんまずい。ここは覚えておいて損がないところです。

公式が挙げる停止理由は5つ

では実際に無効化されるのはどんなときか。Why Was My OpenAI Account Deactivated? に5つ列挙されています。

理由具体例
使用ポリシー違反性的コンテンツ、児童の搾取、暴力・自傷、詐欺的な行為、ヘイト・嫌がらせ・スパムなど
利用規約違反セキュリティやアクセス制限の回避、アカウントやAPIキーの不適切な共有、サービスの健全性を損なう使い方
不正アクセスの疑い乗っ取りが疑われる挙動を検知した場合に、保護のため一時的に停止
警告後の再違反警告で示された期間内に使い方を是正しなかった場合
本人確認の未完了年齢確認や本人確認を求められたのに完了しなかった場合

1つ目はイメージしやすいと思います。使用ポリシーに禁止事項が並んでいて、普通に仕事で使っているぶんには縁がありません。

一般のビジネス利用で現実的にリスクがあるのは、2つ目です。そして3つ目と5つ目は、違反していなくても起こり得ます。乗っ取りを疑われた場合の停止は、むしろ利用者を守るための措置。本人確認の未完了は、単に案内メールに気づいていないだけ、というパターンが十分あります。

危ないのはアカウントの数ではなく、迂回する意図

ここが今回いちばん伝えたい部分です。

Xでは「複数アカウントを持つとBANされる」という言い方をよく見かけます。これは正確ではありません。OpenAIはアカウント切り替え機能を公式に提供していて、個人用と仕事用の2つに同時にログインして瞬時に切り替える使い方を、はっきり想定しています。初回のAPIキーを生成するときの電話番号認証についても、同じ番号を最大3回まで使えるとヘルプに明記されています。少なくともこの認証に関しては、3つのアカウントで同じ番号を使ってよい、ということです。

線を引いているのは数ではなく、目的のほうです。利用規約の禁止事項に、こう書かれています。

レート制限や規制を回避したり、当社が本サービスに実装させている保護措置や安全管理上の緩和対策を迂回したりするなど、本サービスを妨害又は中断させること。

同じ規約には「データ又はアウトプットを自動又はプログラムにより引き出すこと」「本サービスを変更、コピー、リース、販売、又は配布すること」も並びます。登録の項では「アカウントの認証情報を他人と共有したり、アカウントを他人に利用可能にしたりしてはなりません」と明言されています。

これを日常の行動に置き換えると、危ないのは次のようなパターンです。

  • 無料枠を使い切るたびに新しいアカウントを作り直して使い続ける
  • 有料プランの上限に達したら別のアカウントに切り替えて、実質的に上限をなかったことにする
  • Web版のChatGPTをブラウザ自動操作ツールで動かし、APIの代わりとして大量に処理させる
  • 1つの有料アカウントを複数人でログインして共有し、人数分の料金を払わずに使う
  • 契約したアカウントへのアクセスを、社外の誰かに貸す・売る

どれも、やっている本人の感覚では「ちょっとした工夫」です。ここが厄介なところで、規約の文言に当てはめると回避行為に直撃します。特に4つ目は、悪意ゼロで社内に定着していることがあります。

業務利用でいちばん踏みやすいのは、アカウントの使い回し

OpenAIにはアカウント共有についての独立したポリシーがあります。書き出しがこうです。あなたのアカウントは、それを作った本人のためのもの。誰か他の人が使う必要があるなら、その人が自分のアカウントを作るべきだ、と。

理由も3つ挙げられています。認証情報の共有は個人データや決済情報の露出につながること。1つのアカウントを複数人が使うとポリシー違反や誤用のリスクが上がること。そしてサービスが個人の利用パターンに合わせて最適化される設計であること。

私たちのAI導入支援の現場でも、部署でアカウントを1つ共有している会社は珍しくありません。人数分の月額を払わずに済むので、コスト面では合理的に見えます。ただ、そこには3つの問題が同時に乗っています。

1つ目は、規約違反そのものであること。2つ目は、誰か1人の使い方で全員が同時に止まること。共有アカウントは、リスクも共有します。3つ目は、履歴や設定が混ざって、誰が何を入れたのか追えなくなること。これはシャドーAIの記事で書いた「どこに何を入れたか分からない」状態と、実は地続きです。

月額を人数分払うのは、規約対策というより事故対策の費用だと考えたほうが、腹落ちしやすいかもしれません。

国と決済手段の条件は、思ったより厳格

もうひとつ、違反の意識なく踏みやすいのが所在地と決済です。

ヘルプの対応国についての記事には、非対応国からChatGPTやAPIにアクセスしたり、非対応国からのアクセスを他者に提供したりすると、アカウントがブロックまたは停止される可能性がある、と書かれています。支払い方法についても、対応国リスト外の決済手段を使うとサービスの利用がブロックされる、と明記されています。

日本は対応国なので、国内で普通に使うぶんには関係ありません。気をつけたいのは、社内ネットワークの都合で常時VPNを経由していて出口が海外になっている場合や、海外の関係会社名義のカードで決済している場合です。悪意はなくても、システムから見える情報は同じになります。

Xの報告を眺めていると「VPNのせいかもしれない」と推測している投稿が一定数ありました。ここは公式が個別のケースを説明しているわけではないので断定はできません。ただ、条件として明文化されている以上、業務環境の出口がどこになっているかは一度確認しておく価値があります。

止まってからできることは、思っているより少ない

ここからが、この記事でいちばん現実的な話です。

異議申し立ての窓口はあります。停止の通知メールが届いているなら、そのメール内のリンクから申し立てるのが公式の推奨です。メールが見当たらない場合は専用フォームから申請できます。フォームの申し立て理由は3択で、「使用ポリシーや規約に違反していない」「アカウントが乗っ取られた」「APIキーが漏洩した」から選ぶ形です。申し立てにはユーザーIDと組織ID、利用状況の説明、乗っ取りが疑われる期間、身に覚えのない請求があればそのカード情報などを添えるよう案内されています。

問題はデータのほうです。エクスポート機能のヘルプによると、設定画面からのエクスポートはログアウト状態では利用できず、書き出しの完了まで最大7日かかり、ダウンロードリンクは受け取ってから24時間で失効します。ChatGPT BusinessとEnterpriseのワークスペースも、設定画面からのエクスポートの対象外です。

読み替えると、設定画面からすぐ履歴を取り出すことはできなくなります。サインインできない場合はPrivacy Portalからデータを請求できると案内されていますが、本人確認や処理に時間がかかる可能性があり、業務で必要な資産をすぐ復旧できる前提にはしないほうが安全です。

さらに、自分で削除したアカウントは復活しません。サインイン時のエラーについてのヘルプに、削除済みアカウントは再有効化できないと明記されています。同じメールアドレスで新規登録できるのは30日後で、しかも完全に削除された場合に限られます。無効化された場合は別扱いです。

「止まったら申し立てればいい」で済ませられる話ではない、というのが正直な結論です。

会社としてやるなら、この3つ

大がかりな対策は要りません。今日中に着手できるものを3つ挙げます。

  1. 1人1アカウントにする。共有をやめて、業務利用は法人プランに寄せる。学習利用の扱いも法人プランのほうが安全側に倒れるので、一石二鳥になります(AIサービス別オプトアウト早見表で各社の扱いをまとめています)
  2. 消えて困る資産を、ChatGPTの中だけに置かない。作り込んだカスタム指示、GPTs、プロジェクトの設定。これらは会社の資産になっているのに、バックアップの対象から漏れがちです。定期的に外へ書き出す運用を決めておく
  3. 禁止行為を社内ルールに数行だけ書く。「アカウントを共有しない」「上限を超えたくても別アカウントに移らない」「Web版を自動操作ツールで動かさない」。この3行があるだけで、悪意なき違反はかなり減ります(社内AIガイドラインの記事も参考にしてください)

3つ目は特に効きます。禁止されていると知らないだけ、というのが本当に多いからです。

まとめ 抜け道は、たいてい規約に名前がついている

今回、公式ドキュメントを一通り読み直して思ったのは、OpenAI側の説明は思ったより丁寧だ、ということでした。警告と停止は分けて説明されているし、停止理由も類型化されているし、異議申し立ての窓口もある。

それでもXに怒りの投稿が並ぶのは、規約の文言と、利用者が感じている「ちょっとした工夫」の距離が遠いからだと思います。上限を回避する裏技として共有されているものは、たいてい規約側に回避行為という名前がついている。この対応関係を知っているかどうかで、リスクの見え方はまるで変わります。

まずは、自社のChatGPTがいま何アカウントで、誰と誰が同じアカウントを使っているか。そこだけ確認してみてください。数えてみると、想像より多いはずです。

関連性の高い記事

御社のAI導入や活用、私たちが一緒に考えます

記事の内容へのご質問も歓迎です。構想段階のご相談からどうぞ。