ゲームやドラマの暴力表現やポルノが犯罪を増やすか否か議論の別れる所であるが、 この世に犯罪を増やすことが明らかな物が一つある。報道である。 グリコ森永事件のあとに店頭の食品に毒を入れて脅迫する模倣犯がたくさん 現れたことからこれは明らかである。 これが報道の罪の一つだ。もちろん報道の功も考えれば報道は存在すべきだし、これを規制するべきないことは確かだ。 しかし、新聞、テレビ、週刊誌を作っている人たちが この罪に自覚的かどうか疑問に感じることはしばしばある。 興味本位の報道などを見ると。
昨日は演算量の見積もりをしたが 次は記憶容量の見積もりをしてみる。 情報の記憶は取り合えずシナプスにあるチャンネルのリン酸化などの修飾に よるものと考える(※1)。 一シナプスあたり大体オーダーとして1万程度のチャンネルが あるからシナプスの強度は1万程度のグラディエントがあると考える。 これを二進数で表現すると約14ビット。面倒なので2バイトとする。 そして1014個のシナプスがあることを考えると 2×1014byte、すなわち200Tbyte。
これは意外と小さな値である。 これは現在のハードディスクの1000倍にすぎない。 ハードディスクが1年に二倍とすると2015年に達成されるレベルだ。 ただし、それぞれのシナプスに一秒に数十回のインパルスが到着することを考えると この200Tbytesに対して数十回の読み出しがかけられなくてはならない。 それだけの速さはDRAMによる主記憶でさえまかなえない。 200TbyteはPCにおける標準的なDRAM量の106倍くらいである。
※1 そのほかにspineの形態変化も記憶に関係していると言われている。 まだ他にもあるかも知れない。 とりあえず1シナプスあたり16ビットとしたが、これはシナプスのS/N比が 96デシベルあると言う過剰な見積もりである。 もし、他の機構があってもこれを越えることがあるとは思いがたい。
一つの軸索は大まかに一秒間に10回のインパルスを運ぶ。 これが運ぶ情報量は、 純粋に平均発火数が問題であるとすれば2,3ビット/秒であり、 1ms単位の正確な時間と発火パターンが問題であるとすれば 7〜80ビット/秒である。 とりあえず10ビット/秒と考えよう。 軸索はミエリン鞘もいれて約1μmくらいの太さであるから 1平方センチメートルあたり108本くらいある。 左右の脳を連結する脳梁はよく知らないけど20平方センチくらいかな、 だとするとまとめて2*1010ビット/秒くらいである。
ちょっと意外なくらい少ない。 ギガビットイーサネットの青いケーブル20本分くらいである。 また左右脳の連結だけでなく、片方の脳の断面をみても白質の面積は 数十平方センチだからやはり片方の脳内の長距離連結も同じようなオーダーである。 演算量や記憶量が我々のテクノロジの限界の百万倍とかに なっている割には通信量が小さいことは驚きである。
これは脳の長距離連結が意外なほど少ないことを意味している。 つまり情報処理において問題を互いに関連の少ない小問題に 分割することに成功しているのだ。 人間が作った機械と同様のいわゆるdivide and conquerが成功していると いうことだ。
前に脳にしわがあることは、脳が演算量に比べて結合が(特に長距離結合が) 少ない弱結合的な系であることを 意味していると言うことを書いた。 ( 去年7月31日) そしてそれは脳が分かちがたい一体というよりは、 部分に分解して理解できる系であることを示唆している。 今回の見積もりも別な方向から来たのにそれと同じような結論になったのは おもしろい。
大脳には100億程度の神経細胞がある。※1 それぞれの神経細胞には1万程度のシナプスがある。 (数字がキリがいいことから分かるように単に桁の見積もりである。) もっと複雑なことをやっているという人もいるけど※2、 神経細胞がやっていることはこのシナプスに来たインパルスを 線形な重み付け和をした上に時間積分して 閾値を超えたら発火することだとする。※3 おおまかにインパルスは10[spikes/s]とすると 神経細胞は一秒間に105ぐらいの数の インパルスの重みつき線形和を計算をしているわけだ。 これをマイクロプロセッサでエミュレートすると おそらく1インパルスを数命令くらいで処理できるだろう。 (面倒だから10命令にする。) 脳全体では1015インパルスくらいだから 1016[命令/s]位あればエミュレートできる。 現在のマイクロプロセッサはまあ1010[命令/s] だからあと106くらい性能が向上すればよい。※4 マイクロプロセッサは少し楽観的に18ヶ月で性能が倍になるとすると 約30年でこの100万倍の水準に達する。
従って2035年くらいには人間と同等な能力をもった機械が可能になる。 ただし、人間の脳のアルゴリズムが分かればである。 それが一番難しいところである。これは人間の理解を超えている可能性もある。 しかし脳の学習アルゴリズムの記述長は有限である。 なぜならDNAの塩基配列が有限だからである。 その情報量はギガバイトに達しているので人間の理解が及ぶかは分からないが、 塩基配列の大部分は知能とは関係ないという希望もある。
専用のハードを開発した場合、どんな演算でも大雑把にいって1000倍くらいの 性能向上が見込めるのでその場合は15年、 およそ2020年に必要な水準に達することができる。 ただし専用のハード開発はアルゴリズムが 分からないことには為し得ないのでこの2020年は無理だろうと思う。 だから私は二つの間にある2030年くらいに期待している。
※1 小脳
小脳は一千億の細胞があると言われている(私は未確認)ので
上の見積もりに疑問がある人もいるかも知れない。
でもPrukinje細胞とかは1500万しかないし、
多分小脳には顆粒細胞とかの小さい細胞の数が多いのでしょう。
小さい神経細胞はシナプスの数が少ないので出来る計算も少ない。
小脳は大脳よりもずっと小さいわけで、
だいたいは体積相応、エネルギー消費量相応以上の計算を行うことは
できないでしょう。
※2 神経細胞がもっと複雑なことをやっているという意見はある。 例えば細胞体がかなり複雑な情報処理能力を持っているとか カオスになっているとかである。 しかし、細胞内質について言えば液相で分子が拡散するような系で あるので、(細胞膜と違って)せいぜい分子の種類の数程度の 自由度しかもつ事が出来ない。せいぜい100とかその程度だろう。 それがカオスのように人間にとってきわめて複雑に見える物であっても 自由度の数が少なければそれをエミュレートするのに必要な 計算量は大したことはない。 だから計算量の見積もりではあまり重視しなかった。
※3 非線形性
脳の情報処理が全体として非線形演算なのは疑いようがない。
上記では主に線形和の数を数えているが、
それに異論がある人が居るかも知れない。
しかし、乗算はlogを取れば線形加算になる。
だから線形加算と一次元の非線形変換の組み合わせで
いかような非線形の計算でも構築することができる。
この方法を使うとN変数に対する任意の多項式を計算するとき
線形な重み付け加算の方が計算量の大部分を占めて、
非線形計算はずっとわずかな数しか必要がない。
これをさらに一般化すればKolmogorovの定理に行き着く。
そこでは任意の非線形演算はN2のオーダーの重み付け線形和と
N個のオーダーの非線形演算で構成することができる。
従ってエミュレートするにあたって重たいのは
非線形性ではなく常に線形変換の部分である。
※4 熱力学的限界
最近のマイクロプロセッサは107トランジスタで100W位消費する。
それぞれのトランジスタが一秒間に109回くらいスイッチングをすると仮定すると
一回のスイッチングに10-14J位のエネルギーを消費している
ことになる。
これに対してエネルギー消費は同じまま106の性能向上を果たすと
一回のスイッチング(〜信号伝達)に10-20[ J]になる。
これは室温における熱擾乱のエネルギー 0.5×10-20[ J] にかなり近い値であることは興味深い。
ほんとは寝ていたいけど買い物に出かける。 ひげ剃り、アルミ小鍋、洗剤、セーターを買う。 こういう生活小物を買うとなんか結構充実感がある。 さらに、机の横の引き出しを買った。 いままで、いつ放り出されるかもしれないと思うと 家具を買う気になれなかったけど最近少し気分が変わった。
初めてWWWと言うものに触れたとき、 リンクでつながっていく巨大で永遠の知識の集積のようなものを イメージして感動したものだが、 いまのままではwebはtransientな情報の流れにすぎない。 (それがいいと言う人もいるだろうが。) これを根本的に何とかする方法はない物だろうか。
っていうか、さっさとwebクローラを 開発してディスクに保存しておけ、国会図書館よ。 その程度の仕事は有能なプログラマにやらせれば数日の仕事なのに。 公開用のプログラムは何年あとでもいいから。
人生はチョコレートの箱だ。誰も欲しがらない陳腐な贈り物。スクリプティング言語資料室(仮)経由の孫引きね。
返却したくてもそれもできない。
それでも他に何もなければ、仕方なくむさぼり食うことに。
もちろん中には好物もいくつか混じっている。
でもそれらはすぐに無くなり…
後者を考えるときには、法律に反しているかどうかは全く問題ではない。 民主主義のもとでは我々は代議員を通して法律を作る立場にいるわけで、 法律を作るものが法律の内側でしか思考できないのは問題がある。 (2の「善し悪し」が何なのかは言うのは面倒だけど、大人なら分かるよね?)
仮面ライダーとかでは、悪の組織は 作戦に失敗して逃げ帰ってきた手下は処刑してしまいますよね。 なんとなくそれを思い出して笑ってしまいました。 日亜が悪の組織って訳じゃないけど。
二つの群から離散サンプリングして 二つの母集団の確率分布が等しいかどうかの比較には 普通Kolmogorov-Smirnov testを用いる。 しかし、これは確率分布の形によっては検出力が低くなる。 まったく任意の形の確率分布に対して妥当な定義があるか というのが前からの疑問だった。
で、希薄なガスにおける粗視化によるエントロピーの定義を使えば、 サンプル数が巨大な場合についてはgenericな定義ができることに気づいた。
しかし、ふと疑問に思う。 この十年、GDPは減少しているわけではない。単に横這いだ。 三面等価の原理が成り立っているのでGDPはあらゆる人の給料の総和と同じだ。 だからGDPが変わってないのなら、 誰かの給料が減った分、誰の給料は増えていなくてはならない。 「不景気だ、不景気だ」という口実の下に人の給料を減らして かわりに収入を増やしているものが居るのではないか? 経済学には自信がないのだけれども。
まず高林さんの「 バッドノウハウと「奥が深い症候群」 」という文書があります。 バッドノウハウとはコンピュータの使い方についてありがちな 「何でそうなるの!」と叫びたくなるようなアホな知識の事です。 それに対して結城さんが「 バッドノウハウからグッドラッパーへ 」という文書で 「そのバッドノウハウを覆い隠すようなラッパー(wrapper)を作る」 という解決策を提案しています。 もっとも私はそれに対する高林さんの 日記9日のラッパー悲観主義(?)的立場に同情的です。
さて、このようなバッドノウハウを必要とするシステムをバッドシステムと呼ぶことにします。 ここではバッドシステムに対するもう一つの解決法として グッドラッパーの反対のバッドラッパーを提案します。 その内容は以下のとおりです。
バッドシステムをずっと首尾一貫していてそれ故にずっとコンパクトな 仕様と実装を持つ新しいグッドシステムに作り替えます。 その設計に置いて互換性を考慮する必要はありません。 次にこの新システムの上にバッドシステムの悪い挙動を再現するラッパー つまりバッドラッパーを構築します。 これにより古いシステムとの互換性を保ちます。 新しいユーザは新しいグッドシステムに直接アクセスして利用させ、 古いバッドノウハウとバッドラッパーはフェードアウトすることを期待します。
例
Windows NT(新しいシステム)の上に走るDOS互換ボックス(バッドラッパー)。
次世代のIA64(新しいシステム)の上に走るIA32ソフトエミュレータ(バッドラッパー)。
(IA64がIA32よりコンパクトな実装になっているかは疑問だけど)
見たことはないけど古いLISPプログラムからSchemeプログラムへのトランスレータ。
補足
このパターンをソフトに対して適用するときは、
悪い振るまいさえ再現できる程度に万能なプログラム可能性を必要とします。
プログラム可能性を新システムを内部に持つパターンと、
それをラッパーの方に追い出しラッパーを既存のスクリプト言語などで書くパターンが考えられます。
ThinkPadを開けると中からスルメがでてくる所を想像してしまいました、私は。 誠実なるIBMの回答は以下の通り:
ThinkPadの液晶には、食べ物の 'イカ' などのような海産物は使用しておりません。
奔放な想像力は面白いものだと思っている人が、どうも世の中にはいるようだ。 想像力に対して制約を設けないとかえって凡庸に陥るものだと私は思う。 じっさい、自分の想像力を愛している人は大抵凡庸で退屈だ。
またか。
私から見るとソフトウェア特許は有害だとしか思えない。
そもそも特許の基本的要件を満たしていないものに与えられるからだ。
特許の基本的要件とは
(数学のアルゴリズムは自明でないと言う条件を満たせるが、 数学が特許の対象にならないことも確立したルールだ。)
本の良く読むページは裁断面で見て段々汚れてくるのですぐに分かるし、そこがすぐに開くようになる。そういう風に現実の荒廃現象がむしろ行動に有益な手がかりを与えることがあって、そういうことをコンピュータのユーザーインターフェイスに与えようと言う研究があるという話は聞いていた。だけどそのアナログ版がすでにあるのか思ってちょっと笑えた。
まあ、大手の日記やニュースサイトが しばしば中堅サイトのパクりで出来ていることは 経験的に良く知っていることだけど。 それがちゃんと示されたということですね。
よく世の中にはhigh profile journal以外はバカにして読まない人がいるが、 こう考えたらどうだろう。 私に限らずみんなそうだと思うけど、 日本語の雑誌は英語の大体3倍くらい早く読める。 (流し読みなら10倍くらい。) 日本語ネイティブだからね。 だったら個々の論文の価値が有名雑誌の1/3であっても 充分読む価値があると思うんだけどなあ。
もし、世の中の人の皆が怠け者で、 ちょっと鼻がぐずぐずしたくらいでこれ幸いと仕事を休むようであれば、 風邪という病気はほとんど伝染できなくなり、 風邪で休む人はほとんど居なくなってしまうだろう。 まじめさがかえって病欠を増やすという皮肉。 「世の中の災いの半分はまじめな人がやらなくとも良いようなことを することによって起こる」という警句を思い出す。
そう言えば「このキーワードでこれしか見つからないのはおかしい」という事はずいぶんあった。いままで単複に無頓着だったせいで見落としていたサイトがずいぶんあるのかもしれない。しかしある種の単複の違いについてわたしらにきちんと区別することを要求するのは酷だよなあ。
(上の説が誤りであろうという情報については、 かろうじてだけどSCIENCE誌の2月6日号の "Use and abuse of mathematics in biosciencce"(うろ覚え)の中で 批判的に言及されていたのを知るのみである、私は。)
野中兼山が「むくどりには千羽に一羽の毒がある」 との噂を広げたという話だ。百羽に一羽では嘘がばれるし、万羽に一羽では怖くない、という例の話ね。 この話の真偽は定かではなく単なる伝説の可能性もあるらしいが、伝説であったとしてもこんな話が流通していたこと自体が、昔の人は1万分の一くらいはそれほど怖くない感じていたことを意味している。
一方の、狂牛病のリスクはこんなふうだ:
安井先生の「
狂牛病ファイナル」によれば、
世界で18万頭の狂牛病の発生に対して人間の死人は100人くらい。これからすると、日本の場合は10頭以下しかでていないからそれから想定される死人の数は0.0005人くらい。(しかも全数検査しているから既にゼロ。)日本人口一億人に対してだから、リスクは2000億分の1。牛1頭から牛丼が1000杯とれるとしたら、牛丼のリスクは200兆分の1。心配するだけあほらしいというか考えるだけ脳の無駄という感じのリスクだ。牛丼屋に行くと途中にクルマに轢かれる可能性を心配したほうがよっぽど有益。アメリカからの輸入物が無検査であっても同程度のリスクだろう。
(以上の議論は市場にでた数かそれとも検出数かきちんと区別してないという不正確性がある。感染率や潜伏期間が分からないという不確定性もある。けど、数字が小さすぎるので議論を精密化する必要すら感じない。ついでに言うと
ここ
によれば「
イギリスでは危険部位である脳をスープにしたり、ハンバーグに混ぜて食べるという習慣がある」そうだ。それを考えると日本人のリスクはもっと低い。)
昔のひとの落ち着きっぷりときょうびの人の騒ぎっぷりの対比はどうでしょう。 そういえば「恐がらなさすぎるのはいけないけど、恐がりすぎてもいけない。 適切に恐がるのは難しい」と言っていたのも寺田寅彦でしたっけ?
先に、一つ言っておきたいが、研究の9割以上はあってもなくとも良い研究だ。 存在しなくとも科学の流れを変えることはない。 statusの高い雑誌でも、有能だという評判の研究者でも、数十年後からみたらあってもなくても良かったという研究の方が過半である。考えなくてはならないのは、そうではないような流れを変える研究の産出量だ。
あってもなくても良いような研究の産出量は競争的システムのもとで上昇するに違いない。しかしそうでない研究の産出量はどうなのか。これが分からない。個人的予断としては、極端に競争的または極端に非競争的な両極端は産出量が下がるが、その中間はほとんどフラットであって、そのような重大研究というのはシステムとは無関係に個人的な信念から生じるのではないかと考えている。
いわゆる「持続的技術」と「破壊的技術」の話なんだけど、学術的な場での創造的な研究と追随的研究の間にも通じることがあるような気がするのでメモ。
日経サイエンスの3月号102ページ「バイオ医薬を変える酵母」からやはりそのような事は実際にあるということが分かった。以下引用:
一般に大学の研究者は政府の助成金を申請し、数人の大学院生と研究を始める。だが、ガーングロスは新規参入組なので、この方法では資金を調達できそうにない。資金を得られたとしても、成果を出すのに何年もかかる。 元工学部長のハッチンソンが研究に興味をもち、手っ取り早く事を進めるには会社を設立するのが一番だとガーングロスに進言した。
こういうことは社会のような複雑なものを相手にするときには常に意識しなくてはならないことだと思う。 またこれが単純な考えて制度をいじくり回しても思ったほどパフォーマンスが変わらない理由なのではないか。
ギリシャ語の入門書を探していたのですが、観光用の現代ギリシャ語の入門書しかなくて困っていたんですよ。科学用語の語源としての古典ギリシャ語の入門書がほしかったんだけど。少なくとも2年前に探したときはなかった、1年前もなかった。どうやら去年の4月に岩波は再版をしていたようです。本はある時に買わないと手に入らなくなるから今読む気がなくとも今手に入れることをおすすめします。(特に岩波はすぐに絶版しちゃうし。岩波こそ本を長く流通させるべき出版社だと思うんだけど。)
ラテン語はちょっとやったけど、ラテン語起源だと思っていた語のかなりはギリシャ語起源だった様子。もっともみんな印欧語族だからというのもあるかも知れないけど。
わずか数ページ読むだけで、「メーテル」は「母さん」っていう意味だったとか、西部警察の「大門」は「鬼・悪魔」って意味だったとか、科学そっちのけ。【二番目は違うと思うぞよ】