２００９年度技術的特異点サミットに関する最も貴重なミーム（MVM)

[this is the Japanese translation of a post that was originally written in English.]

パスカルと私は、現在、ニューヨークにて、２００９年度の技術的特異点サミットに参加しております。場所は92nd Street Y, Upper East Sideです。

サミット自体は二日間において（１０月３日及び４日）、Ray Kurzweil、Peter Thiel、Aubrey de Grey　そして Stephen Wolfram（バンカーソファーを忘れずに）というスピーカーや参加者を通して、技術が社会にどんな影響を及ぼしていくのかが説明されてきました。その技術とは情報技術、ゲノミクス、ナノテクそして人工知能です。期待されている大きな変化としては頭脳の計算力の巨大な改善及び不死の人生というものです。

二日間に於いて、参加者が、伝達した最もパワーフルなミームをリストアップし、以下のようになります。（順序には特に今はありません。）

（それらのミームを最も貴重なミームと呼んでいます：MVM）

バンカーソファー、技術的特異点且つそれに含まれている技術について考えました。

"出席者の１割は１０年以内で人工知能が可能になると思っております。"

"量子コンピューターにQ-bitを追加すると、そのコンピューターのパワーが二倍になります。"

"人間の知能を理解するためには分子レベルまでは研究する必要はありません。"

Ana Salomon氏、人工知能が人類に齎すリスクについて語りました。

"自由な人工知能は原爆のように我々人間を殺してしまいます。"

"統制されている人工は我々人間をほぼ救い出せます。”

Anders Sandberg氏は頭脳のシミュレーション及びエミュレーションについて語りました。

"頭脳の完全なエミュレーションを得てから、人工知能を生み出す価値があると思います。"

"頭脳の完全なエミュレーションについては、次のような疑問を抱いています：頭脳の走査の速度を減らすべきか、加速させるべきかという倫理学的かつ社会学的な問題があると思います。"

Randal Koene氏は人間の脳かつ意識の写しをいかに早くするべきかついて語りました。

"人間の死は大きな苦痛を起こします。従って、今、直ぐに、それをなくすべきです。大事なのは頭脳が基づいている貧弱な基盤を取り替えることです。"

"脳のバックアップが出来るようになったら、脳が基づく基盤及び脳が活躍する環境を選択できるようになります。例えば、宇宙服なしで、酸素のない宇宙で生活出来たりするようになります。"

"頭脳に含まれている、すべての情報を写し、別の基盤に移転することができたら、そのコピーされた頭脳は独自な意識及び知能を取得します。"

"ある頭に含まれている情報をコピーし、その写された頭脳が完全な写しであれば、写しが原本に劣っていると言える根拠はありません。"

Itamar Arel氏は、人間の脳に於ける階層的な構造かつ学習メカニズムを模倣し、人工知能の作成について語りました。

"学習というのは報いかつ補強を必要とする過程だと分かっています。"

"VLSIという技術のお陰で、人工汎用知能を作る為の要素はすべて揃ってあります。"

Ben Goertzel氏は有益な人口汎用知能を生み出す方法について語りました。

"技術的特異点はItamar Ariel氏の使っている、率直な人工知能を利用すれば、Ray Kurzweil氏による予測よりも早く来るかと思います。"

"私による人工汎用知能へのアプローチは認知的な共同作用の理論です。人間の脳は複数の、相互作用という特徴を持っている認知機能及び記憶機能が実装されているモジュールによって作られています。

例えば、宣言的メモリーでは倫理学の知識が登録されております。例えば、「人を殺してはいけません！」というルールも同じ場所に登録されております。"

"人工汎用知能には倫理学に関する知識を実装することは重大です。"

Stuart Hameroff氏は人間の意識に於ける神経の基盤について語りました。

"意識と関連している脳の波動はGAMMA波動です。"

Michael Nielsen氏は量子コンピューティングについて話しました。

"量子力学と技術的特異点の関係は何か？量子力学というのは古典力学より遥かに高いペースで動作しています。量子人工知能は標準の人工知能を遥かに上回っています。"

"量子力学を最初に利用する又は作り出すのは、多分人口知能のではないかと。我々人間は量子力学が分かりませんので。"

"量子人工知能はもしかして二つ目の技術的特異点を起こすかもしれません。"

Jurgen Schmidhuber氏は、芸術及び創造性が基づいているアルゴリズムの原理について話しました。

"芸術、創造性そしてユーモアを理解できない限り、人間は人工知能を生み出せないのです。"

"科学者達そしてアーティスト達は新しい方法で圧縮できるような圧縮可能なデーターを常に探求しています。"

Stephen Wolfram氏はセルオートマトン及び技術的特異点について語りました。

"私は一つな自然科学だと見なしたコンピュータープログラムに興味を持っています。"

"人類には非常に理解しがたいのに、大自然はなぜ、非常に複雑なものを、そう簡単に生み出せるのかを疑問として思っています。"

"計算宇宙を上手く利用し、人類のためになるものをいかに作れるのかは問題です。"

David Chalmers氏は、シミュレーションそして技術的特異点の必要性について語りました。

"人工知能を起こせるには自然界が生み出す進化だけですと時間がかかり過ぎてしまいます。人工知能に至るためには、シミュレートされた世界で進化をシミュレートをするべきです。"

"自己改善を行っている知能が存在していることは大自然が行っている進化が知能を生み出すために知能を利用している証拠です。"

"安全な技術的特異点への鍵は人間が生活している世界に所属する情報がシミュレートされている世界へ漏れてしまうことを防ぐことです。"

"人工知能そして人工知能＋をシミュレートするうちに、万が一、不親切な人工知能に至った場合、やり直さなければいけません。親切な場合は、徐々に人間の世界に導入して行くことをお勧めします。"

"意識というのは組織化されている不変の構造をもつ現象です。同じパターンで構成されている意識を持っているの人々は、似たような意識を持っている傾向があります。"

"ニューロン毎の、再建的なアップロードを利用すると、意識そのものの連続性を保証できるようになります。従って、技術的特異点が発生しても、意識自体は保持されると考えてもいいです。"

Gary Drescher氏は、予め計算されている宇宙での自由意志という概念について語りました。

"変更出来ないものについて選択肢があるし、起こすことの出来ないものについても選択肢があります。従って、決定論と選択は両立出来ます。"

Ray Kurzweil氏は、情報技術に於ける指数的な成長に関する同時偏在能力及び予測可能性という属性について語りました。

”「量子力学は不思議で、意識も不思議だ。従って、関連性がある」と言い、量子力学を利用し、意識をモデル化する科学者は単純過ぎる考え方を持っていると思います。"

"意識のような、主観的な経験をどのように客観的に評価出来るのかは問題です。"

"Wolfram氏によるセルオートマトン理論に於ける問題点は地球は１００年後、どんな風に変わるのかは、そのアルゴリズムを実行しないと予測できないという点です。"

"初めてチューリングテストに合格する計算機は２０２９年に現れ、凡そ１０００ドルという値段で、人間の脳の１０００倍ぐらいの計算力を持ちます。"

Michael Nielsen氏は科学的発見のためのネットワークを使った協同活動について語りました。

"協同発見をするための般的な協同活動の構造は次のようになります：ある一つの問題を細かく分けて、一人の人が貢献出来る状態にすること。"

"専門家の方々による管理は珍しい資源です。"

Robin Hanson氏はなぜ技術的特異点は学問的世界に無視されているのかについて話しました。

"学問的世界の間接的な効果は知識を昇進させることですが、学問の第一目的は人々を、素晴らしいと見られている科学的機関と連携させることです。"

Ray Kurzweil氏は、技術的特異点の批判について語りました。

"未だに計算機には出来ないことは。。。。（ブランクを埋めてください）"

"制限はありますが、それほど制限的ではありません。新しいパラダイムを見つけ出せばいいからです。"

"ちゃんと動いている技術を作ったら、その基礎をなしている原理を理解出来てしまうので、インテリジェントだなだという見方はなくなります。"

"冗長性が高いという属性と持つ脳を考慮すると、脳のソフトウエアーは凡そ15MBだけで書けるし、コード自体の行数は１００万未満です。"

Peter Thiel氏はマクロ経済と技術的特異点の関係についてスピーチをしました。

"私が技術的特異点に関しての最も恐れているシナリオは技術的特異点そのものが現れてくるまでは時間が掛かり過ぎるという現象です。"

"クレジットというのは、貸してもらった金額より高い金額を返金できることを前提とした行動です。従って、将来に進化が求められてしまいます。"

"経済学では期待されている成長がない際に問題が発生します。従って、金融レバレッジが作用する唯一の方法は実際に技術的なイノベーションを行うことです。"

Aubrey De Grey氏は技術的特異点及び老化について語りました。

"技術的特異点は技術を利用した人類が自分自信の人間性を超越する脱出速度が得られる点に該当します。それと同様にMethuseralityは長寿脱出速度と定義しましょう。"

Bayes' theorem BUNKERIZED - You are busted, Mr. Bayes^^

This post is a continuation of the articles about the Bayes' theorem previously posted by Paskal on this Blog and the blog of Ascot Project.

The Bayes' theorem is indeed a typical example of how we, at BunkerSofa, approach dogma and technological paradigms currently used.
In particular, we like to spot logical fallacies as well as technical misinterpretations and argue why they are wrong and can lead to systems not working at all.
The act of spotting, closing up and criticizing using Bunkersofist values ("putting into quarantine" if I dare say) is what I want to call to BUNKERIZE.

Also, very important to be aware of. Bayes' theorem is heavily used in the field of Speech Recognition, Information Retrieval, Natural Language Processing and Anti-Spam methods; So I think it is all the more crucial to question its validity.

So let's get to the point; what on earth is wrong with the Bayes' theorem , a solid and very respected theorem that has hardly ever been questioned?
Well, apart from that it's based on a triviality, nothing on the mathematical standpoint; But when it comes to its usage for example in the Computer Science field, problems arise;


1) Triviality of the Bayes' theorem:

First let met remind you what the theorem is about.
The famous theorem only states that:
P(A/B)=P(B/A)*P(B)/P(A)

where A and B are 2 given events and P a probability.
So, in fact, the theorem can almost be reduced to stating that
A & B = B & A

Why?
Well, let me demonstrate the Bayes theorem again then in 3 lines.

a) As Bayes defined, I define:
P(A/B)=P(A&B)/P(B)
P(B/A)=P(B&A)/P(A)

b) But A&B = B&A so P(A&B)=P(B&A)
c) Then P(A/B)=P(B/A)*P(B)/P(A)

So all it does is relying on the fact that A&B = B&A is true.
This is indeed mathematically true because that's the very definition of "&", a symmetric relation.


2) Misinterpretations of the Bayes' theorem:

Well, how you interpret (A&B = B&A) is the source of all problems.
(A&B = B&A) is a binary formula that does not take Time into account at all, namely it is non-temporal, that is, Time just does not exist inside it.

The question then is: how do you interpret what it means for the real world, in practice where Time exists and flows?
To understand the intricacies, let's focus in particular on (A&B) and speculate on its meaning.

a)Is it A immediately followed by B ?
If so, followed within how much time?

b)Does A have to simultaneously occur at the same exact instant as B?

Well, the answer is neither a) nor b) for the very reason that the theorem does not consider the flow of Time.


- So if you want to apply the theorem for the real world, you have to consider cases where a) and b) are confounded so that you do not have to be confronted with the interpretation problem;
And then it's not big deal. Bayes works perfectly but the cases are restricted.

Consider the example: A="To be a girl" and B="To wear a dress".
Another easy one is: A="The glass is filled" and B="To be poured with Red Wine".

As you may have noticed, these 2 examples are about events that are sufficiently macroscopic enough for the human brain to consider them non-temporal.
And this is the condition for the Theorem to be applied correctly in the real world.

The condition is the following:

You have to consider only situations where the events are such that it does not matter whether A is prior or subsequent to B.

- But apparently, many computer scientists haven't not understood this crucial condition well.
They are currently applying it quite vaguely for Speech Recognition where they claim without much care such, statements like (A&B)=(B&A) where for example, A=("utterance of the phoneme "bu") and B=("utterance of the phoneme "zz").

Obviously, ("bu"&"zz") is not the same as ("zz"&"bu")...


That's pretty much it for now!
Bayes' theorem has just been BUNKERIZED☆
You are busted, Mr.Bayes!^^


I hope you will take this quarantine of this virus of the mind (i.e. Bayes' theorem) to study it and know how to use it more carefully in your applications.


Also, this may be a new movement at BunkerSofa and a fun application of the Bunkersofist philosophy, namely we could Bunkerize viruses of the mind that are dangerous, stick to the human brain and are based on fallacies.

Should we call ourselves the MemeBusters?^^

Bayes is obsolete! - 旧式のベイズ!

[jp]

ベイズの定理についてちょっと語りましょう。

あれは、実際に、優れている部分って一切ありませんよ。

AとBという主張があるとするね。

ベイズが言っているのは、（A and B）は（B and A）と一緒だということです。

単純でしょう。

一例をあげましょう：

- A = "パスカルと申します。"

- B = "２８歳です。"

年齢と名前、どっち先に言うべきかって唯の形の問題です。情報的には全く変わりません。

数学では、交換法則と言います。

だから、結局ベイズ定理って交換法則に過ぎません！

それなのに、ここ３００年間という長い期間に於いて、ずっと使われてきて、しかも計算工学の研究員はものすごく信頼しています。

音声認識にも適用されているし、自然言語の統計的分析にも利用されているし、スパムフィルタリングもそうです。後は、情報検索でも。最近ではヤッフーがIDFの一般化に使ったみたいです。

なんでだろうね？それこそ、根強いミームだと思います。次のパラダイムを見つけ出すべきです。

[en]

Just a thought on Bayes' theorem.

For me it just says that (A and B) is the same as (B and A), A and B being statements.

Let's say that:

A= "My name is Pascal Hamonic."

B= "I am 28 years old."

It's just a matter of cosmetics that I put my name before my age or the other way around.In mathematics, we'd say that A and B commute.

So nothing extraordinary regarding Bayes' theorem. But it's widely used in computer science: speech recognition, natural language processing, spam-filtering.

I don't see the reason. Really.

And the results are not so great.

It's even used in information retrieval. In 2008, Yahoo! published a paper that explains how they generalize IDF using Bayes' theorem. That's lost in advance...

I think that the only reason why the scientific community trusts so much Bayes is related to memetics: the Bayes' theorem is just a powerful meme.

Bayes has to be blown away by another paradigm...

Most Valuable Memes of The Singularity Summit '09

Pascal and I are in New York right now in order to, between other things, participate to the Singularity Summit 2009 taking place at the 92nd Street Y, in the Upper East Side.

The summit lasted 2 days on October 3rd and 4th, during which scientists and entrepreneurs such as Ray Kurzweil, Peter Thiel, Aubrey de Grey or Stephen Wolfram explained how potentially humankind will have some profound evolutions and changes such as billion-fold-enhancement of the brain's capacity or the ability to live forever, thanks to Information Technology, Genomics, Nanotechnologies and Robotics.

Below is the list(there is no particular order) of the memes generated during these 2 days by the participants, that I thought were the most compelling ones.

I call them the MVM, the Most Valuable Memes:)

BunkerSofa, on the Singularity and its technologies.

"Oh I see... roughly 10% of the Singularity Summit audience believe that we will be able to build AI within 10 years."

"When you add a q-bit in a quantum computer, you double the power of your computer."

"We don't need to go down to atomic description to explain human intelligence."

Anna Salamon, about the risks brought by AI.

"An uncontrolled AI explosion will kill us like a nuclear bomb."

"A controlled intelligence could practically save us if we choose the right type of AI model."

Anders Sandberg, about scanning and emulating the brain.

"Once we have a whole brain emulation, I believe it would be useful to build an AI."

"The question about a whole brain emulation is: do we want to speed the scanning up or down, when we consider ethical and social issues."

Randal Koene, about the urgency of copying the mind and its consciousness.

"Death causes a lot of suffering and we must fix that now. The thing is we must replace the fragile substrate of the mind."

"Once we are able to back up the brain, then we are able to choose the physical environment and substrate of the brain. For example, we could chose to live in space without spacesuit if we want to."

"If we are able to copy all the information contained into a brain and transfer that to another substrate, then this copy will have its own set of consciousness and intelligence."

"If you do a copy of your original brain, and this copy is exactly the same as the original one, then there is no reason to consider the copy inferior than the original."

Itamar Arel, about how to build AI by imitating the hierarchical structure of the brain and the learning mechanism.

"We know that learning is a process that involves reward and reinforcement."

"The pieces of AGI (=Artificial General Intelligence) puzzle are already there, thanks to enabling VLSI."

Ben Goertzel, about the pathways to beneficial artificial general intelligence.

"I think that the Singularity is nearer than Ray Kurzweil predicts if we use straightforward engineering like the one of Itamar Arel."

"My approach for building an AGI is my theory of cognitive synergies: the brain is built on several cognitive and memory modules that interact. For example, the declarative memory registers Ethics and things like killing is bad."

"It is crucial to implement Ethics into the AGI."

Stuart Hameroff, about the neural substrates of consciousness.

"The brain wave associated with consciousness is the GAMMA wave."

Michael Nielsen, talking about quantum computing.

"What's got Quantum Mechanics do with Singularity?

Well, Quantum Mechanics operates at a completely different regime than classical physics. Quantum AI is a beast compared to simple AI."

"AIs may be the first ones to build/take advantage of Quantum Mechanics. We humans do not understand quantum mechanics."

"Quantum AI will provoke a second Singularity?"

Jurgen Schmidhuber, about the algorithmic principles behind Art and Creativity.

"You cannot build AI unless you understand Art, Creativity and Humor."

"Scientists and artists search for compressible data that is compressible in a new way."

Stephen Wolfram, about Cellular Automata and Singularity.

"I have been interested in a kind of natural science of computer programs."

"Why on earth Nature seems to find easy to make incredibly complicated things for the human mind?"

"The question is how can we make use of the computational universe to make useful things for humanity, technology wise?"

David Chalmers, about the need for a simulation and the Singularity.

"Natural Evolution will take too long to induce AI. We must simulate Evolution in a simulated world to reach AI."

"Self-improving intelligence is the fact that Evolution turns on Intelligence to create Intelligence+" 

"The key to a safe Singularity is to prevent Information pertaining to the human real world from leaking in the simulated world."

"While simulating AI or AI+ , if it's not benign, try again. If it's benign, integrate slowly in the human world."

"Consciousness is an organizational invariant. People with the same patterns of organizational invariants tend to have the same consciousness."

"If we use reconstructive uploading neuron by neuron, this will guarantee continuity of Consciousness. So there are good reasons to believe that Consciousness will be preserved during the Singularity."

Gary Drescher, on the notion of free will in a computational determined universe.

"You have a choice about things you cannot change and things you cannot cause.

So choice and determinism are compatible."

Ray Kurweil, on the ubiquity and predictability of the exponential growth of information technology.

"Quantum mechanics is mysterious, Consciousness is mysterious so there must be a link. That's what the proponents of Quantum Mechanics to model consciousness think naively."

"The question is: how to measure objectively subjective experiences like consciousness?"

"The issue with Wolfram theory of cellular automata is that you cannot predict where Earth will be in 100 years from now without iterating the algorithm."

"In 2029, the first computer will pass the Turing Test and $1000 of computation = 1000 times the human brain."

Michael Nielsen, on collaborative networks in scientific discoveries.

"The general architecture of a collaborative discovery is as the following: cut in lots of pieces a huge problem so that 1 person can contribute."

"Expert attention is the ultimate scarce resource."

Robin Hanson, on why Singularity is ignored by Academia.

"Academia side effect is to advance knowledge but the first function is to affiliate people to a bunch of scientific authorities considered brilliant."

Ray Kurzweil, speaking on the critics of the Singularity.

"Computers still can't do...(fill in the blank)"

"There are limits but they are not very limitative because we only need to find new paradigms"

"As soon as we build a working technique, we don't consider it intelligent any more because we now understand its underlying principle."

"When you take into account the high redundancy of the brain, the software of the mind can be written into 15Mb, in less than 1M lines of code."

Peter Thiel, on Macroeconomics and Singularity.

"I believe that the most catastrophic scenario for the Singularity is it takes too long to happen."

"Credit is lending money on the assumption that you will give me back more in the future. So it necessarily needs progress in the future." 

"In Economy, there is a problem when people expect growth but this growth does not happen. So the only way for financial leverage to work is through real technological innovation."

Aubrey De Grey, on Singularity and Aging.

"Singularity is the point of technological escape velocity for the humankind to transcend evolution. Let me define Methuserality as the point of LEV = Longevity Escape Velocity."