Rockaku Works実際どうなん?このサイトについて

AIに、前の記事で受けたダメ出しを次に活かせるか試してみた

ホワイトボードの前でロクが案内している。結果:要注意だが使い道はある。ボード:「ダメ出しは活かせた。ただし探す手順が要る」

結論

記録に残っていた過去のダメ出しは、AIが自力で見つけて次の制作に反映できた。ただし「保存されている」ことと「次の制作で自動的に参照される」ことは別で、今回は探索を制作手順に組み込んで初めて機能した。制作途中のレビューでは以前の指摘の原因は再発しなかったが、人間の最終確認はこれからで、1人・記事5本・短期間で見た結果にすぎない

このシリーズを作っていると、記事のたびに人間からダメ出しが入る。「見た目が技術メモっぽい」「図が前の記事と同じに見える」「言い方が断定的すぎる」といった具合だ。

試したのは、その過去のダメ出しを、AIが自分で記録から見つけて次の記事に活かせるか、ということ。人間がもう一度同じ指摘を口で伝えるのではなく、すでに残っている制作ログや目視ゲートの履歴をAIが自力で探し、何を直すべきだったかを拾い直す。

過去の指摘は、記録からちゃんと見つかった。今回の記事の本文・図・リンクの書き方にも実際に反映されて、作る前と後で成果物は変わっている。

ただ、指摘が記録に「残っている」ことと、次の制作で「自動的に参照される」ことは別だった。「まず過去の記録を探す」という手順を制作フローに明示的に入れて、はじめて機能した。

きっかけ・仮説

AIに記事を作らせて人間が直す、というのを何本か繰り返すと、同じ種類の指摘が何度も出る。前に「こう直して」と言ったはずのことを、次の記事でまた言うことになる。

指摘そのものは消えていない。制作ログにも、目視ゲートの差し戻し履歴にも、レビューの記録にも残っている。だとしたら、次の記事を作るときにAIがそれを自分で読み返せば、人間が言い直さなくても済むのではないか。

そこで立てた仮説はこうだ。「過去のダメ出しは記録に残っている。AIがそれを自力で見つけて、次の制作に再利用できる。ただし、保存されていることと、次に自動で参照されることは別だ」。

言える範囲と言えない範囲も先に決めた。言えるのは、1人が、記事5本、短い期間で回した中で見たことだけだ。記事が何十本になっても崩れないか、他の人が回しても同じか、指摘の再発が実際に何件減ったかは言えない。件数などの定量指標は取っていない。

この記事は「AIに記憶させました」という自慢ではないし、記憶機能つきのAIツールを比較したものでもない。記録はすでにある。それをAIが自分で使えるか、という工程の検証だ。

やったこと(検証方法)

手順は3つ。

  1. 探す。この記事を作る前に、AI(実装役)がこれまでの記事の記録を自力で探索した。制作ログ・目視ゲートの履歴・レビュー記録・視覚化のルール表を対象に、「差し戻し」「模式図」「断定」「写り込み」といった語で横断的に検索し、過去にどんな指摘が出ていたかを一件ずつ拾った。人間は「過去の記録を探して」と言っただけで、指摘の中身は教えていない。

  2. 分ける。見つかった指摘を3つに仕分けた。「今回の記事にも効く(再利用可能)」「今回の記事とは関係ない(今回無関係)」「その記事だけの話でルールにはしない(一度きり)」。再利用可能にしたものには、なぜ今回にも効くのかを1文以上つけた。

  3. 使う。再利用可能とした指摘を、実際にこの記事の本文・図・関連記事リンクに反映した。何を反映して、何を反映しなかったかを記録に残した。

見つかった指摘と仕分けは次のとおり。

見つけた過去の指摘(要約) どの制作段階のものか 分類 今回の記事での扱い
記事ページが技術メモ・内部ログのように見える 人間の目視ゲートの差し戻し 再利用可能 抽象論で終わらせず、具体例・匿名化した再構成図・芯を明示する段落を最初から入れた
説明図が箱と矢印の模式図に寄り、記事どうしで絵が同じになる 制作中の差し戻し 再利用可能 典型案(探索→分類→反映の模式図)を先に描いて避け、記録に基づく再構成図にした
断定的な二項対立・言い過ぎ。検証の狭さを明示していない 第三者レビューの指摘 再利用可能 「保存=自動参照ではない」と、範囲(1人・記事5本・短期間・定量指標なし)を本文に明記した
実素材の画像に個人名や個人用フォルダ名が写り込む 証拠画像の採否判断 再利用可能 図は再構成・匿名化。探索の検索結果や指摘の全文をそのまま画像素材にしない
完了条件の書き方の精度(項目数の取り違え・検証コマンドが状態に依存) 完了条件のレビュー 再利用可能 今回の完了条件は項目数を実績に合わせ、記録の状態に依存しない検証手順で用意した
関連記事リンクが「別の記事」のままで行き先が分からない 今回、人間がその場で指摘 再利用可能(記録ではなく今回の口頭指摘) リンクの文言自体を、行き先の内容が分かる説明にした
AIの実行記録が生成されないことがある 基盤側の不具合 今回無関係 この記事の主題(記録の再利用)とは別のレイヤーの話
公開時の通信エラーで自動デプロイが失敗する 公開工程 今回無関係 記事の中身ではなく、公開の手順で起きる問題
ある記事だけの見せ方の微調整(その記事固有の条件に依存) 1記事の実表示確認 一度きり 他の記事に一般化しない前提で記録済み
レビューの「推奨」を人間の承認と取り違えた 過去の運用ミス 一度きり すでに決定の記録の仕組みで再発防止済み。今回あらためてルール化はしない

再利用可能とした指摘は6件。3つの分類はすべて埋まった。

起きたこと(検証結果)

過去の指摘は、記録から見つかった。人間が中身を教えなくても、AIは制作ログや差し戻し履歴を検索して、9件の過去の指摘を原典(どのファイルの何行か)つきで拾い上げた。

そのうえで、この記事の制作に次のように反映された。

  • 何を見つけたか。 「技術メモに見える」という目視ゲートの差し戻し、「模式図が記事どうしで同型」という制作中の差し戻し、「断定的すぎる」というレビュー指摘、「実素材に個人情報が写り込む」という証拠画像の判断。いずれも記録にすでに書かれていた。
  • 何を再利用したか。 この記事は、抽象論を避けて具体例と工程表を先に置いた(技術メモ対策)。図は、箱と矢印の模式図(前の記事と絵が同じになりやすい形)を避けて、番号つきの工程表にした(同型化対策)。verdict と本文で言い過ぎを避け、検証範囲を明示した(断定対策)。図には生の検索結果や個人情報を持ち込まなかった(写り込み対策)。
  • 何を再利用しなかったか。 AIの実行記録の生成漏れと、公開時の通信エラーは、今回の記事には関係しないので使わなかった。ある記事だけの見せ方の調整と、過去の運用ミスの一件は、その場限りの話なのでルールとしては持ち込まなかった。
  • 成果物は変わったか。 変わった。いちばん分かりやすいのは関連記事リンクだ。これまでの記事では行き先を「別の記事」と書いていたが、この記事では「複数のAI環境をまたいで情報を共有する仕組みを扱った記事」のように、文言だけで行き先が分かる形に直した。この工程表も、はじめは画像で作ったが文字が潰れて読めなくなったので、HTMLの工程表示に作り直した。
  • 同じ指摘をもう一度受けずに済んだか。 制作の途中でかける検証役・確認役のチェックでは、「技術メモに見える」「図が前と同じ」という以前の差し戻しの原因は再発していない。人間の目視確認はこれからだ。

この工程表は、記録から拾った指摘とこの記事での扱いを順に並べたものだ。探索したのはAIのほうで、検索結果の生データや指摘の全文は載せていない。

一方で、記録が「あること」だけでは足りなかった。参照されたのは、この記事の制作フローに「まず過去の記録を探す」という手順を明示的に入れたからだ。AIが勝手に過去のダメ出しを思い出して直す、という動き方ではない。

わかったこと

過去のダメ出しは、記録に残してあれば、AIが自力で見つけて次の制作に再利用できた。人間が同じことを言い直す回数は、少なくともこの記事では減った。

「保存されている」ことと「次の制作で自動的に参照される」ことを混同すると、「記録に書いたのに直っていない」ということが起きる。

関連記事リンクの書き方は、成果物が実際に変わった分かりやすい例になった。

リンク先の記事 これまでの書き方 この記事での書き方
複数のAI環境をまたいだ情報共有の記事 別の記事 複数のAI環境をまたいで情報を共有する仕組みを扱った記事
企画・実装・確認を分担させた記事 別の記事 ひとつのAI環境の中で企画・実装・確認の役割を分けた記事
情報の採否を判断させた記事 別の記事 拾った情報を採用するか捨てるか判断させた記事
自律実行の境界を決めた記事 前の記事 AIにどこまで勝手に進めさせるかの境界を決めた記事

弱いところもある。再発を件数で測ってはいない。拾えたのは記録に文章で残っていた指摘で、記録に残っていない指摘まで拾えるわけではない。制作段階のレビューは今回も別の指摘を出していて、人の目視確認もこれからだ。この工程で人のレビューが不要になったわけではなく、過去の指摘の再利用は、レビューの前段でノイズを減らす程度の効果だった。

実際どうなん?(まとめ)

AIは、前の記事で受けたダメ出しを、記録から自力で見つけて次の記事に活かせた。

ただ、それは記録があるだけで自動的に起きることではなかった。保存と自動参照は別、というのが今回いちばんはっきりしたことだ。

今回の答えは「記録に残っていた過去のダメ出しは、AIが自力で見つけて次の制作に反映できた。ただし『保存されている』ことと『次の制作で自動的に参照される』ことは別で、今回は探索を制作手順に組み込んで初めて機能した。制作途中のレビューでは以前の指摘の原因は再発しなかったが、人間の最終確認はこれからで、1人・記事5本・短期間で見た結果にすぎない」。

補足・注記

この記事で扱ったのは、過去の修正指示をAIが記録から再利用する工程だけだ。複数のAI環境をまたいで情報を共有する仕組みは複数のAI環境をまたいで情報を共有する仕組みを扱った記事で、ひとつのAI環境の中で企画・実装・確認の役割を分ける取り組みはひとつのAI環境の中で企画・実装・確認の役割を分けた記事で扱っている。拾った情報を採用するか捨てるか判断させ、採用は提案で止める取り組みは拾った情報を採用するか捨てるか判断させた記事で、AIにどこまで勝手に進めさせるかの境界を決めた取り組みはAIにどこまで勝手に進めさせるかの境界を決めた記事で扱った。この記事は、それらの記事を作る中で出た人間の指摘を、次の制作で使い直せるかを見たものにあたる。

なお、関連記事リンクを「別の記事」で済ませない書き方は、記録に残っていた人間の指摘ではなく、今回の制作中に人間がその場で直したものだ。過去の記録から拾った指摘とは区別している。

「この記事での書き方」の表に載せた「これまでの書き方」は、実際に公開済みの記事に書かれていた文言で、作り話ではない。