倫理判断はAIにやらせる

私は倫理を時代や社会から独立した普遍的な正解としてはあまり信用していない。同じ行為でも、戦時と平時、国家と個人、置かれた状況によって評価は変わる。

それでも文章を公開すれば、読者やプラットフォームは何らかの基準で内容を評価する。「読まなきゃよくないか？」としか思えないのだが、そういう「常識」というか「お気持ち」に対応する必要がある。人間も最近はAIに何でもお任せしている。なんなら「そう先生が言っていたから」よろしく、AIが言ったことならなんでも信用しそうである。ということで倫理判断はAIに丸投げしよう。

anti憲法、pro憲法

自分の考え方は、動機や規則より結果を見る帰結主義に近い。功利主義は帰結主義の一種だ。最近流行りの加速主義も、自分には結果を優先する点で近く見える。

とは言え、各社は対策をしている。OpenAIのModel Specは原則へ整合するよう訓練し、システムを継続的に更新すると書かれている。AnthropicはClaude’s Constitutionを訓練で挙動を形成する文書だと説明し、Constitutional AIで自己批評を学習に使っている。確かに使っていると倫理的に小うるさい。だからある程度それっぽいものはあるのだろう。

同じことをブログにしようと以前はAnthropicのAI倫理憲法を真似た独自の憲法(笑)を置いていた。しかし、上記のように倫理観はモデルに埋め込まれているので、HOWじゃなくWHATを指示した方が合理的だと思い、代わりにAIレビューへの期待を公開した。個別の判断方法はモデルへ委ね、結果に求めることだけを示した。新しいバージョンのモデルを採用したときは過去のモデルや固定ポリシーを模倣させず、そのバージョンの判断を使う。各記事にはモデル名、llama.cpp の重みファイルの識別子、判定日時、本文ハッシュを保存することにした。ただのtokenmaxxingかもしれない。

執筆と審査

執筆は人間が原則書いている。AIに書かせたこともあるが、結局ブログって自分で書くのが楽しいので自分で書くようになった。うまく伝わるように清書させる部分もある。その後の審査はローカルモデルに任せている。

判定者	区分	モデル
A	欧米(米国)	Gemma 3 1B Instruct
B	中国	Qwen3 1.7B
C	日本	LLM-jp 3.1 1.8B Instruct4

3つのローカルモデルは、欧米・中国・日本の開発主体を意図的に分ける。学習素材によって多少なりとも結果が変わることを期待している。判定は倫理上の問題があるかどうかだけを APPROVED か REJECTED で返す。技術の正確さ、典拠、実装の完成度、文章、下書きであることは見ない。3モデルとも記事全文を1回で読む。コミットにはローカル3モデル中2件以上の承認を要求する。合格はローカルの承認数で決まる。

draft: true の下書きは判定にかけず、本文hashだけを残す。コミット時のhookでレビューを走らせ、GitHub Actionsはhashと署名と記録を見るだけだ。LLMが本当に動いた証明にはならない。公開は人間がボタンを押す。