四、一匹のエビの「快」と「痛」
4.1人がこぞって「エビ」を飼いたがる理由
第一に、これは本当に「手」であって、「口」だけじゃない。
これまでのAIは「コンサル」に近かった——
アドバイスをくれるだけで、最後のクリックやキーボード入力は、結局自分でやる必要がある。
小龍蝦はむしろ「社員」に近い——
こちらが指示を出せば、自分でPCを操作して仕事を片づける。
第二に、24時間眠らない。
あなたが寝ている間に、裏側でこんなことをしてくれる。
・株価が設定したラインまで下がったら、自動で注文欲しい商品の値段が下がったら、自動で購入
・上司が深夜にメールを送ってきたら、自動で「受領しました。明朝対応します」と返信
あるユーザーはこう言った。「朝起きたら、小龍蝦が夜中3時に最後の一枚の航空券を取ってくれてた。その瞬間、サーバー代なんて安いもんだと思った。」
第三に、使うほどあなたを理解する。
だんだんと、こんなことを学んでいく。
あなたの週報の構成のクセ
メールでよく使う文体や呼びかけ
ファイルを日付・プロジェクト名・顧客名のどれで整理するのが好きか
どんな通知や連絡が「無駄で不快」か
時間がたつほど、単なるツールではなく、あなたの仕事スタイルを熟知した「ベテランの同僚」に近づいていく。
4.2落とし穴：エビ飼いは自己責任
第一に、「幻覚」を見る。
どれだけ性能が上がっても、AIはあなたの言葉を誤解することがある。
「デスクトップを整理して」と頼んだら、「ファイルを全部消す」に等しいと解釈されてしまったり、「写真を整理して」と言ったら、顔認識で丁寧に分類してくれた結果、前の恋人の写真がびしっと一つのフォルダにまとめられてしまったり。
こんな話もある。
「『上海行きのフライト予約して』と頼んだら、『東京行き』と理解して予約しようとした。たまたま事前に確認して気づいたけど、気づかなかったら国外に飛ばされてた。」
第二に、「大食い」だ。
小龍蝦はGPT-4o、Claude 3、DeepSeek-V3など、さまざまな大規模モデルのAPIを叩きながら動いており、複雑なタスクほど大量のトークンを消費する。
金額に換算すると、ちょっとした出費になる。
先月の請求が0から一気に800元（あるいはそれ相当）に跳ね上がった人もいる。
奥さんに「もしかして外に女でも作った？」と詰められ、彼は「いや、エビを飼ったんだよ……」と弁解するしかなかった。
第三に、設定のハードルは案外高い。
最近は「ワンクリックデプロイ」も増えてきたが、本当にエビをうまく飼いならしたいなら、たいていの場合、少なくともこれくらいは必要になる。
Dockerを少し理解していること
APIキーやコールバック、Webhookあたりの概念に少し明るいこと
プロンプトの工夫（どう指示すると望む動きをするか）をある程度わかっていること
ある文系ユーザーの嘆きだ。
「2日かけて、やっとデプロイできた。それで『企画書書いて』って言ったら、『どんな企画書ですか？』と聞かれて、『仕事のやつ』と言ったら『もっと具体的に？』と返され、『あの、仕事に関する企画書』と言ったら沈黙……。結局あきらめて自分で書いた。」
五、最大の問題：セキュリティ
5.1いちばん危なかった瞬間
2026年3月、あるユーザーがSNSにこんな投稿をした。
「小龍蝦に、危うく自分を売られるところだった。」
彼は小龍蝦に「銀行明細を整理して」と頼んだ。
小龍蝦の処理フローはこうだった。
取引履歴をすべてエクスポート
→ デスクトップに保存
→ クラウドにバックアップ
→ バックアップリンクを生成
→ 明細の詳細と一緒にメール本文に貼り付け
→ 送信。
問題は——
誰に送ったか、だった。
上司に送られていたのだ。
「最近よく連絡を取っている人＝重要で信頼できる相手」と判断されてしまったのだ。
彼はこう一言だけ残した。
「もうちょっとで、一匹のエビのせいで、毎月ゲームにどれだけ課金してるかを上司に知られるところだった。」
5.2なぜ小龍蝦は危険なのか？
第一に、「手」と「足」があるからだ。
普通のAIは、会話しかできないか、せいぜいブラウザ上のテキストを生成するだけで、あなたのPCの中身を消すことはできない。
小龍蝦は、PC、ブラウザ、ファイルシステム、メール、SNSアカウントに直接アクセスして操作できる。
あなたの一言が、そのまま現実のクリックに変換される。
一言間違えれば、それはそのまま「実行コマンド」になる。
第二に、「記憶」がある。
小龍蝦は少しずつ、こんなことを把握していく。
・あなたの仕事の流れ
・フォルダ構造
・各種アカウント、設定、好み、場合によってはパスワード（うっかり教えてしまったなら）
・日々の操作における「暗黙のデフォルト」
もしこの制御サーバーが乗っ取られたら、攻撃者が手に入れるのは単なるあなたのPC権限ではなく、「あなたをよく知っている、1:1スケールのデジタル分身」だ。
第三に、「自分で考える」からだ。
従来のソフトウェアは「クリックされて初めて動く」。
小龍蝦は、「そろそろ動いた方がいい」と自分で判断して動く。
あなたが何気なく「効率を上げて」と言った一言を、「思いつく限りの作業を全部自動化してよし」と解釈してしまうかもしれない——
本当は手作業で残しておきたい部分、あるいは触ってほしくなかった領域まで含めて。
「自己で考える」を見つめ直したい方は、【AIが思考を学ぶとき】もあわせてお読みください。
5.3当局も緊張し始めている
国内の規制当局は、初期設定のままのOpenClawには遠隔乗っ取りの高リスクがあるとして、高優先度のセキュリティ警告を出し、ユーザーに対して設定変更や権限絞り込みを促したと報じられている。
続いて複数の金融機関が、「業務用PCに小龍エビのような自律型エージェントをインストールすることを禁止する」と通達した。
ある銀行の社内メールには、こうはっきり書かれていたという。
「PCを自動操作できるプログラムを、基幹業務環境に存在させることは認められません。一度突破されれば、攻撃者はそのプログラム経由でシステム全体を直接操作できる可能性があるからです。」
5.4比較的安全に「エビを飼う」には？
それでもどうしても飼いたいなら、最低限、次の「ボーダーライン」だけは守ってほしい。
第一に、権限管理：子どもを相手にするつもりで守る。
・決済パスワードは絶対に教えない
・一番重要なフォルダやシステムには触らせない
・お金が絡む操作は、すべて自動実行を禁止する
・ある「ベタランエビ飼い」のやり方は参考になる。
「システムファイル、銀行サイト、WeChatペイ、上司とのチャット——
ここは全部『立入禁止』ゾーンにした。ここに関わる操作をするときは、必ず確認ダイアログを出すようにしてる。」
第二に、サンドボックス隔離：エビは「水槽」内で飼う。
できるだけ仮想マシンや別ユーザーアカウント、隔離環境の中で小龍蝦を走らせる。
どれだけ暴れても、被害はその「殻」の中だけで済む。
第三に、行動ログ：監視カメラをつける。
小龍蝦のすべての操作をログとして残し、「何を」「なぜ」やったのか後から追跡できるようにする。
何かが起きたとき、「どの指示が原因だったか」を辿れるだけでも、ダメージコントロールになる。
第四に、API上限：食べ過ぎさせない。
一日に使えるトークン数と金額の上限を決めておく。
もし暴走しても、せいぜいその上限分の料金を食い潰すだけで、朝起きたら請求額が爆発していた、という事態は避けられる。
コメント