Sens について
AI に何かを説明して、返ってきた答えが、どこか違っていた。
事実が間違っているわけではない。こちらの言いたかったことと、違う。言い直して、背景を足して、もう一度試す。うまくいくこともある。なぜうまくいったのかは、わからないままです。
この隙間が、Sens の出発点です。
毎回、推し量られている
AI に文章を渡すとき、AI が扱うのは言葉です。その言葉があなたにとって持っていた意味 ―― この条項がなぜ重要なのか、このメモは何のためのものだったのか、二通りに読める箇所でどちらのつもりだったのか ―― は、そのつど、渡した範囲から推し量られます。
そして、終われば消えます。
どこにも残りません。次の会話に持っていくことも、別のモデルに引き継ぐこともできません。考えたことを AI に通す機会が増えるほど、この形で失われるものが増えていきます。
意味は、人についての情報のなかでも、とりわけ立ち入ったものです。それでいて、いま最も勘定に入れられていないものでもあります。
観測できるようにする
意味は、観測できるようにすべきだと考えています。
定義するのではありません。観測する。ここが要点なので、正確に書きます。
意味を定義するとは、あなたの言葉が何を意味するかを決めることです。その権限を誰かが持つことになり、それはあなたではありません。意味を観測するとは、すでにそこにあるものを見えるようにすることです ―― この二つの文書が同じ語を違う意味で使っている、この用語は三月と九月で意味がずれている、ここで言ったつもりのことと、あちらで読まれたことが食い違っている。
観測は、示します。裁きません。見たものをどうするかは、あなたの側に残ります。
仕組みについては 観測層とは で説明しています。
言えないこと
先に書いておきます。末尾の但し書きにはしません。
AI に意味の理解を与えることはできません。 理解は、それを引き受けられるものにしか宿らず、ソフトウェアは引き受けられません。作れるのは道具です ―― 観測して、示す道具。判断は、ガラスのこちら側に残ります。
一度渡した意味が安全だと約束することもできません。 守りは、何か一つの巧妙な仕組みから来るのではなく、何を開示するかを制御することと、どう束ねるかを設計することから来ます。計器が粗いところでは、丸めずに幅のまま報告します。
大規模言語モデルのやり方が間違っている、とも考えていません。 あれは別のことをしています。私たちが扱いたい層 ―― 残り、誰かのものであり、モデルが変わっても生き延びる意味 ―― は、もともとあれが持つようにできている層ではありません。
ひとつ、言わないことにしている言い方
正しく聞こえるのに、正しくない文があります。
あなたの意味を、取り戻す。
取り戻すという言い方は、それがどこか別の場所にあって、誰かが返してくれる、という形をしています。どちらも違います。意味の主権は、与えられるものではありません。最初からある条件です。個人には最初からあり、組織にも最初からあります。
ですから、やるべきことは回復ではありません。奪えない造りにすることです ―― 出ていく自由を、やりやすくしておくことを含めて。
もう少し詳しく
ここまでは平易に書きました。同じことを、宣言の形で述べたものがあります。
Sens Manifesto ―― 何を信じ、何をせず、何をつくるのかの全文です。
About Sens
You explained something to an AI, and the answer came back off.
Not factually wrong. Wrong in what it took you to mean. You rephrase, add background, try again. Sometimes it works. You never quite find out why.
That gap is where Sens starts.
Inferred, every time
When you hand text to an AI, it works on the words. The meaning those words carried for you — why this clause matters, what this note was for, which of two readings you had in mind — is inferred each time, from whatever you happened to pass in.
Then it is gone.
Nothing is kept. You cannot carry it into the next conversation, or hand it to a different model. The more of your thinking passes through these systems, the more is lost this way.
Meaning is among the most intimate information about a person. It is also, right now, the least accounted for.
Making it observable
Meaning should be observable.
Not defined — observed. That distinction carries the weight here, so it is worth being exact.
To define meaning would be to decide what your words mean. Someone would hold that authority, and it would not be you. To observe meaning is to make visible what is already there: that these two documents use the same word differently, that this term drifted between March and September, that what you meant here does not match what was read there.
Observation shows. It does not rule. What you do with what you see stays with you.
How it works is described in What the observation layer is.
What we do not claim
We would rather put this here than in a footnote.
We cannot give AI an understanding of meaning. Understanding lives only in something that can be answerable for it, and software cannot be. What can be built is an instrument — one that observes and shows. The judgment stays on your side of the glass.
Nor can we promise that meaning, once shared, is safe. Protection does not come from any single clever mechanism; it comes from controlling what is disclosed and from designing carefully what is aggregated. Where our instruments are coarse, we report the range rather than round it off.
We also do not think language models are doing it wrong. They are doing something else. The layer we care about — meaning that persists, that belongs to someone, that survives a change of model — is not a layer they were built to hold.
One thing we will not say
There is a sentence that sounds right and is not:
We help you take back control of your meaning.
Take back implies it was somewhere else, and that someone is handing it over. Neither is true. Sovereignty over meaning is not granted. It is the starting condition — it belongs to a person from the outset, and to an organization from the outset.
So the work is not restoration. It is building things that cannot take it away — including making it easy to leave us.
If you want the longer form
This page is the plain version. The same thing, stated as a declaration:
Sens Manifesto — the full text of what we believe, what we refuse, and what we build.