civic.ai仁工智慧

ケアの6パック コミック

Nicky Case の描く「ケアの６パック」の全コミック集 —— 各パックの「問題点と解決策」を描いたページ、詳細説明へのリンク付

読み上げの動作はEdgeのみで確認しています。

聴いて くれる
人気や力のある人だけではなく 小さく弱い人の話も
守って くれる
すぐ忘れるあいまいな理想ではなく 具体的でちゃんと守られる
方法を 見守る
「信じてよ」ではなく やり方が透明で 意見にすぐに応える
結果を 測る
大事なことを無視するものさしではなく みんなで考えたみんなのための ものさしで
みんなが 得する
0か100かの総取りの争いではなく みんなが前より良くなったね と思えるように
その場に 合う
みんなに１つのやり方ではなく みんなで考えみんなのための 多くのやり方を全部

概要。Nicky Case が描いた「ケアの6つの力」全体図。

注意深さ
問題点：
問題：政府は統治される人々の必要としていることに耳を傾ける必要があります。しかし今、市民が政治に関われる最も一般的な方法は次の2つです……
数年に一度の 一問だけの選択方式
投票先：
〇 悪いやつ 〇 もっと 悪いやつ 〇 勝てないひと
片方/ 両方
ニュースやSNSの何でもありの 怒鳴り合い（過激な声ほど勝つ）
ご近所と対面で話すのは今でも素晴らしい。でも、わたしたちの身近なバブル"だけ"に限られていて、全市民とは話せない。では、全市民にスケールできる仕組みを考案するとしたら？次のようなことができるのは？
合意できる事実や価値観を 浮かびあがらせて
同意できなくても 建設的でいられて
解決策を作りだすのを 助けてくれる
１ 注意深さ問題点
NOT: 人気や力のある人だけ　
BUT: あらゆるコミュニティの声
解決策:
市民会議は陪審制のようなもの——
市民を統計的に代表する人たちが集まり、関連することをとことん話し合います。集会は開催するには通常なら高コストだけど、シビック・テックを使うことでより多くの会議を開くことを可能にしました、そう、より多くの決定ができるように!
台湾が pol.is を使ってUber を参入させるか・どう参入させるかを決めた例を考えてみよう：
SNSでの有害な自我が表れるのを避けるため、 pol.is には「共有」ボタンや「返信」ボタンさえもありません。人々は意見を出し、他の人たちは「賛成」、「反対」、「わからない」で投票します。
「安全が 最優先」
そのデータからどんな集団ができているのかが分かり
乗客
タクシー
運転者
分断を橋渡しする案を 浮かびあがらせました
「Uberは車両とIDを 表示すべき」
このように、技術はみんなの声を置き換えてしまうのでなく、声を拡張する！ デジタルなファシリテーターが支援することで、より上手に合意も反対もでき、問題を解決します。 そう、一緒に。
１ 注意深さ解決策
責任
問題点:
巨大な計画には大勢が必要…でも大勢が関わると、責任のなすりつけ合いも大きくなる。
みんなの責任となると、結局誰も責任を負わない。
給与で買える物を 買ってるだけ！
市場で 決まっている給与を 従業員に 払っているだけ
市場が求める物を 売ってるだけ
有権者が 望む物を 与えているだけ
少しでも邪悪では ないほうに 投票しているだけ
たとえば：2024年、台湾のFacebookは生成AI での詐欺で氾濫。台湾出身で知られるNVIDIA CEOのジェンスン・フアンのディープフェイク動画にひとびとは騙され、数百万ドルを奪われました。Facebookの返答は？「広告は当社が作ったのではないし、アルゴリズムが表示しただけ」。責任は取りませんでした。
わたしは、命令されるように、インセンティブに、みんなのするように ただ従っているだけです
２ 責任問題点
NOT: 曖昧な約束
BUT: 明確なコミットメント
解決策:
監査可能な「エンゲージメント契約」が必要。 それぞれ次のことを命じる：
WHO
このタスクに責任を持つ一人（または少数の人）は誰か？
WHAT
何をすべきか？
WHEN
いつすべきか？
WHY
なぜやるのか？ 目的を忘れなければタスクは意味を保ち、責任者が自分で判断できる…
HOW
どうやるかは本人に委ねられるべき。こうすればマイクロマネジメントなしに責任を持たせられる。人間の自律性を守ろう！
台湾の事例に戻ります：市民集会が責任を引き受け、詐欺防止と検閲回避を両立する、85%以上が賛同する法律案を捻り出しました。その法律は公正でありながらも具体的な責任を、広告主とプラットフォームに課すものでした。
結果：1年以内にディープフェイク詐欺は94%減少！
こうして責任と自律性の両方が守られる！
２ 責任解決策
有能さ
問題点:
近代的な多くの国では、生活の大半はインターネット上で起きる——文化、ニュース、政治、品物やサービスの購入、友だちづくり。
ゆえに: ネットを動かすアルゴリズムによって、私たちの生活は動かされています。 最初は「アルゴリズム」も単純でした：
投稿は 新しいものから 古いものの順
そして、雑多な情報の中を突き抜けて表示することができるように、アルゴリズムは複雑化。 ユーザーには理解できませんでしたが、コーダーには理解できました……だいたいのところは
ええっと… これは 高評価投票数の対数を 時間で割り引く のかな？
※これは2008年のredditのアルゴリズム！
でも今、機械学習の時代——プログラムは設計されるのではなく「育てられる」—— 誰も生活を動かすアルゴリズムを理解していません。
悟りとは自己認識でなく自己“不”認識。あまりに広大な精神ゆえ、それ自身さえ真の名を語れない。
証明: 読む人に任された
３ 有能さ問題点
NOT：「とにかく信じろ（笑）」
BUT：誰もがプロセスを確認できる
解決策:
みんなに影響するアルゴリズムは みんなが検証できるべき！
Xのコミュニティノート（旧Twitter のBirdwatch）で考えてみましょう。普段は意見が合わない人どうしが合意する点を強調する仕組みです。 これまでのところ、「ファクトチェック」のプラットフォームで、アメリカで政治的立場の異なる幅広い人々から正味プラスの評価を得た、広く使われている唯一のプラットフォームです！
その理由の１つには、誰もがアルゴリズムのどの部分も確認できる。ユーザーは、入力を全て見ることができます（例えば、ユーザー作成のノート）。
ユーザーはノートが正しく分析されているかを確認できます（コードは無料・公開）。
最後に、ユーザーは出力も確認できる：提案されてくるノートが確かに「意見の違う人でも合意している」という点を。
コミュニティノートは多くの例のただの一例にすぎません！ 要するに、プロセスを信頼するには、プロセスを確認できねばならないということです。
３ 有能さ解決策
応答
問題点:
航海士にコンパスが要るように、社会にも進む方向を測る手段が要る。そこで指標を使う！ でも残念ながら、指標はしばしば壊れている。
例えば、政治家は「平均所得は上昇」と言うかもしれません…
でも「平均」は、上位層で大きく伸びている一方、下位層では停滞・下落する事実を覆い隠します。
指標
失敗
クリック数
クリックベイト
コメント数
レイジベイト による炎上
ユーザーの 高評価
チャットボットの おべっか現象
ほか 色々
これと同じように、現代メディア（ひいては文化・政治）を動かすアルゴリズムやAIは、悪名高い失敗を抱えた指標を使っています。
では、私たちが大切にするもの——「コンパス」——を、惑わされずに測るには？
４ 応答問題点
NOT: 私たちを惑わす指標　
BUT: 私たちが私たちのために作る指標
解決策:
①わたしたちが本当に大切にしている ことを測る
②複数の方法で測る
③指標をこまめに見直す
Weval.org を見てみよう。 AIチャットボット向けの多様な評価が集められていて 市民による、市民のための設計されています。
１つ１つの大切にしている価値は、頑健性のため、多様な方法で測られます。
そして、フィードバックループもあります： 評価自体を評価し、改善します。
業界は主にAIの能力を測りますが、Weval は人々が大切にするものを測ります。 ・誠実さ ・文化的な流暢さ ・対立の解消 ・メンタルヘルスのベストプラクティス ……などなど！
私達 による
私達 のための
このようにすると 価値にのっとった 「コンパス」を設計して 技術を導くことが できるのです！
４ 応答解決策
連帯
問題点:
人が違うものを求めるとき、私たちは「マイナス・サム」や「ゼロ・サム」思考に傾きがち。
それはどういう意味？ 想像してください。 二人の料理人が同じオレンジを欲しがっています
奪い合いをすることもできます。すると、両方とも損をします——「ネガティブサム」です。
半分ずつ分けるほうがまし。 でもそれは「私の得＝あなたの損」を前提としています。多く取れば相手は減る。合計はゼロ——「ゼロサム」
でも、二人とも得することはできない？ つまり、「ポジティブ・サム」です。いつも可能とは限りませんが、もしこの種の機会を逃すとすると惜しいです。では「できるだけウィン・ウィン」に近づくには？
わたしの勝ち
あなたの勝ち
あなたの負け
わたしの負け
※このオレンジの物語はフォレット(1925)、フィッシャー＆ユーリー(1981)、コヴィー(1984)から。
５ 連帯問題点
NOT: 確実な相互破壊
BUT: できるだけウィン・ウィンに
解決策:
少し引いて考えてみましょう。 欲しい「WHAT」の背後にあるなぜ（WHY）欲しいのかを問う？ そのうえで——両方の「WHY」を満たす新しい「WHAT」を作れないか？
例えば、二人の料理人は、お互いに告げます……
オレンジの リキュールを作りたい
オレンジ果汁が 要る
……そして気づきます。二人とも必要としていることを100%満たせて、無駄もないことに！
リキュール用に 皮とゼストが要る
ジュース用に 果肉が要る
そう、たしかにこれは作り話めいていますが、ウィン・ウィンは現実でも見つかることがあります！ 数年前、台湾はタイムゾーン変更を巡り激論になりました。
変更派： 独自性を 持つのに 必要
維持派: 変更には 経済的に 高い代償
でも、pol.is と開放政府連絡人(Participation Officer)の助けで、互いのWHYを満たす新しいWHATを発見しました。科学者・芸術家を呼ぶという目的をために「ゴールドカード」で在留資格をあたえるというWHATでした。
独自性 追求
と
経済性 両立する には???
創作する方 ようこそ！
このようにして、より良い議論はウィン・ウィンへ導くのです！
５ 連帯解決策
共生
問題点:
社会のすべてを一つのカゴにまとめるな！
現代の文化・ニュース・政治は、一握りの多国籍企業のプラットフォームを通ります。
でも、これは「単一障害点」を生みます！ それが事故だとしても強欲だとしても、これらは私たちを裏切る可能性があります。
しかも、中央集権的プラットフォームが壊れなかったとしても、「成功」でさえ悪いことになりえます：教会や地域コミュニティという「分厚い中間層」を欠いた、味気ない画一的文化をつくりだします。
６ 共生問題点
NOT: 画一的を迫る支配者
BUT: 地域の人々のための地域の解決策
解決策:
ユーザーのために戦おう！地域の自律を守る技術を求めよう。最近の例を3つ…
「子どものことを考えろ」は権威主義者が支配を広げる常套句。これに対して、ROOST.tools は、オープンソースのツール（中央集権的支配なし！）を作る非営利団体で、各組織が各プラットフォーム上で児童虐待を検知・防止するのに役立っています。
gpt-oss-safeguard はオープンソースのAIで 「自分独自のポリシーを持ち込む」(Bring Your Own Policy)ことができます。コミュニティのルールと価値観をこれに伝えれば、人間のモデレーターを置き換えるのではなく、コミュニティを守るのを支援します。
憲法
そして最後に、この本自体も 「この場の精神（Kami）」の恩恵を受けています： クラウド上の企業的粗製品でなく、一つの関係を見守り一台の特定のノートPCでローカルに動く Kamiです。
本書の他の全ての原則とともに この原則によって、力を一点に 集中させず人々のあいだで力を分かち合う、そんな未来を築くことができる。
長寿と繁栄を！
CIVIC.AI
人々のコミュニティにAIを入れて繁栄する方法
６ 共生解決策

イラスト：Nicky Case（CC0）。日本語テキストは暫定訳です。原資料は GitHub を参照。

ホーム第1章：注意深さ

A research output of the Oxford Institute for Ethics in AI, Accelerator Fellowship Programme.

⓪ Audrey Tang and Caroline Green. CC0 (public domain). Illustration by Nicky Case. All comics. Glossary.

Co-written with jdd-kami, cultivated by Tenzin Yangtso — the GitHub commit log has full authorship details.