「ゼロから作るDeep Learning ❷ ―自然言語処理編」のまとめ 前半
なんとなく自然言語処理に興味を持ったので読んでみた。
ゼロから作るDeep Learning ❷ ―自然言語処理編
BERTが理解できるようになりたさ。
この本の構成は、スタンフォードのCS224d: Deep Learning for Natural Language Processingを基にしているそう。
続きを読む伊藤計劃と山田尚子監督
この記事は、mast Advent Calendar 2018 の6日目の記事です。
みなさんにも、この作品のことが頭から離れない、という経験が一つや二つあると思います。私にもそんな作品がいくつかあるわけですが、ではいったいどうして、そういった作品が心に訴えかけてくるのかと。それぞれ扱うテーマなどは異なるわけですが、共通した現象として起こったのは、一人の人間の感情が鈍器で殴られたように揺さぶられたということです。そうすると、そういった作品が訴えかけてくる手法の違いを考えてみたりしたくなるわけですね。
前置きはこれくらいにして、始めていこうと思います。
まずタイトルを見て、二人とも知っている方は、「いったいなんだこの並びは」と思われるでしょう。実際、この二人の世界の描き方は、対極にあると思うのです。そこを、伊藤計劃『ハーモニー』と、山田尚子監督『リズと青い鳥』を通して語りたいと思います。重大なネタバレは無いです。
まず、『ハーモニー』ですが、生命主義の名の下に人間の命に絶対的な価値が置かれた結果、WatchMeというナノマシンがほぼ全ての人間の中に入れられることにより、大方の病気が根絶された一見平和なユートピアの世界が舞台です。そこで、自らの身体がコードによって単なる数値に書き換えられていくという事実に耐えられなくなったカリスマ少女「ミァハ」が、命を重く扱いすぎるあまり却って息苦しくなってしまった社会に対しパブリック・エネミーとして立ち向かう姿を、ミァハに惹きつけられてしまった少女「トァン」の一人称で描くお話です。ユートピアのお約束どおり、最後はそれが破綻して終わるのですが、ハッピーエンドかそうでないかは読者に委ねられています。私としてもその結末に一家言あるのですがそれは一旦置いといて、その魅せ方と、文章の綴られ方が斬新なところです。テーマは「意識」、「自由意志」、「管理社会」などでしょうか。
ミァハのキャラクターなのですが、これは「PSYCHO-PASS」でいう槙島聖護のようなキャラクター、と言えばピンとくる人も多いのではないでしょうか。時系列的に、槙島聖護のキャラクターはミァハに大きな影響を受けて設定されていると思います。
伊藤計劃は「ダークナイト」のジョーカーのような悪役を指して「世界精神型悪役」とブログで語っています。
世界精神型の悪役とは何か。世界、とは我々の世界でもあり、また映画の説話全体でもある。そして映画を監督が支配する（ということにしておいてください）以上、世界精神型の悪役という言葉は、監督が創造した世界の代弁者もしくは映画そのものの演出家という審級を与えられることになる。映画そのものを演出する映画内キャラクター。つまりは映画内における監督のキャラクター化だ。
世界に認識の変革を迫るヴィジョンを演出することで、ある事物の本質を抉り出すことそのものを目的とし、どんな現世利益的な欲も動機や目的にはしない、そんな悪役。世界を支配するのでもなく、政治的な目標を達成するのでもなく、金をもうけるのでもなく、ただある世界観を「われわれ」の世界観に暴力的に上書きする時間を演出する、それだけを目的とした悪役たち。それが「世界精神（ヴェルト・ガイスト）型」の悪役（というか、敵役、と言ったほうがいいのかもね）だ。d.hatena.ne.jp
この映画のジョーカーは悪意そのもの、人間の心理のどぶ底を浚ってくるクズ拾いのような世界精神（ヴェルト・ガイスト）型ヴィラン、金や権力など目もくれず、ある世界に人々を誘うことそれ自体を目的とするタイプの観念型悪役d.hatena.ne.jp
まさにミァハはこの世界精神型悪役として描かれています。ここから、伊藤計劃はミァハを通して己の考えを語り、それをトァンという一人称の視点から描くことで、私達の価値観を揺さぶりたかったんだな、ということが読み取れます。
ハーモニーの巻末インタビューによると、作劇法としてロジックがまず先にあり、そのロジックをいかに魅力的にするか、という観点でキャラが設定され、エモーションが肉付けされていったそうです。
結果として、ゴリゴリの理詰めが一人称の語りのエモーションによって強化され、読者の思考をハックする、という点が、これだけ読者を惹きつけているのだと思います。
（まぁ、「意識とは何か」というテーマが元々好きだった、というのが、私に刺さった理由の一つとしてももちろんあると思います（元も子もない））
というわけで、理詰めで作られた物語の極致がこれだと思うわけなんですね。（もちろん、意識と自由意志をごっちゃに扱ってない？ とか、設定の細かいおかしなところとか、気になるところは挙げればあるんですけれども。）
映画も作られ、Netflixで配信されておりますが、映画ではどうしても視点が三人称的になってしまうこともあり、やはり「一人称」で書かれた文体と「わたし」がこの作品のキーテーマであることを考えると、小説を読むのがおすすめです。
山田尚子監督のことは「聲の形」とか「けいおん!」などでご存知の方も多いでしょう。
この作品は、学校という鳥かごの中で揺れ動く「希美」と「みぞれ」という少女の関係を、ガラス越しにそっと覗くような、そんな静謐なアニメーション映画です。
「リズと青い鳥」山田尚子監督「彼女たちの言葉だけが正解だと思われたくなかった」｜Zing!
元々武田綾乃先生の「響け！ユーフォニアム」シリーズで書かれていた二人の関係にピンと来た山田尚子監督が、二人に焦点を合わせて、スピンオフという形で映画化されました。
この作品には物語と言える物語はありません。雑に言ってしまえば、「ちょっと仲がこじれていた二人が、仲直りをする」で済んでしまうようなお話です。
ただそんな二人の感情を、アニメーションでしかできない表現手法で徹底して描写した映画だと言えます。
まず前提として、アニメーションでは不作為のものは絶対に画面に映りません。描かれるものには何らかの意図があります。
この「リズと青い鳥」では、髪をなでる仕草、瞳の揺れ、足の動きなど細部全て実際に物語の主題に対して大きな意味を持っている所が、この作品の凄いところです。
また、音楽も素晴らしいです。牛尾憲輔さんという方が担当されているのですが、学校にある物などを使って録音するなど、作品のコンセプトを見事に音で表現されています。
インタビューを読むと、ジョン・ケージに大きな影響を受けていらっしゃるそうで、なるほどなぁとなります。
そういった細部全てに意味があるので、二人の世界を邪魔してはいけない、物音を立てたくない、呼吸すらしたくない、そんな緊張感が作品を通して漂っています。この映画を見た人は、学校の壁や机や黒板と同化します。
EDで「girls,dance,staircase」という山田監督が作詞された曲が流れるのですが、まさにこういう世界を切り取りたかったんだなぁと伝わってきます。
何より凄いのが、そういった山田監督の意図をスタッフが共有して、チームとして一つの作品に落とし込んでいるところです。監督やスタッフの並々ならない情熱が伝わってきます。
「リズと青い鳥」には、先ほどの「ハーモニー」とは違って、論理を積み重ねた上で観客に訴えかけたいテーマ、思弁的なテーマはあまりないです。その代わり、キャラクターの心情に寄り添ったエモーションが、これでもかと映像に表されることで、観客の心に染み込んでくるのです。これほどエモーションを微に入り細を穿って描いたアニメーション映画は他に無いんじゃなかろうかと思います。また、実写ではなく、アニメーションだからこそ、そういった細部を描けるのだと思います。
以上二つの作品を語りました。「ハーモニー」と「リズと青い鳥」という作品に、どうしてこうも打たれるのだろうかと考えているうちに、それぞれの世界の描かれ方をロジックとエモーションという二次元の軸に置くと、まさに対極にあるんだな、ということに気がつき、面白いなと思って書きました。
片や文字、片や映像と音楽、といった情報が人間に入力されると、神経系をハックして感情を動かす、というのは、当たり前のようでとても不思議で、人間って面白いなと思います。
これからもこの二つの作品のように感情を揺さぶってくれる作品を探し続けて行きたいところです。最近はすっかり感化されて、映画を見たり小説を読んだりする日々を送っています。中学高校生の頃には文学から興味が離れていたのに、つくづく人間は不思議です。小学生の頃はハリーポッターとか江戸川乱歩とかは読んでたけど、なぜあまり本を読まなくなってしまっていたのか。
それだけ、人を変える力が物語にはあるということなのでしょう。
P.S. 良い作品に触れると自分でも何か表現してみたくなるもので、文章を書くのは好きなのもあり自分でも小説を書いてみたりしているのですが、長編を書いているときに思いついた短編が一つ書き上がったので、今度賞に応募してみようと思っています。
（追記）
山田尚子監督は前にインタビューで
あ、でもよく周囲の人から感覚で作業しているといわれるのですが、自分ではどちらかというと逆のような気がしています。 結構がんばって端々まで計算してるんですよ。数学とか苦手なのでつらいですけど。人の無意識はずっと意識して演出しています。
と語られています。エモーションをハックするために、山田監督の演出法には無意識をハックするためのロジックがあるということですね。
伊藤計劃はロジックを魅せるためにエモーションで肉付けし、山田監督はエモーションを魅せるためにロジックで肉付けする……
この二人、探れば探るほど対称的な気がしてきます……！
人生とか物語とか相対主義とか
全くまとまっていないです．
雑記帳です．
最近とある脳科学の本を読んでいて，気になる一文が出てきて引っかかっています．
「表明された目的は、それぞれの隠れ層に基づいて編まれた物語であって、けっして理性に基づいた議論などではない。」
物語と言ってしまうとなんでもそう思えるのでなんか狡いなぁと思いつつ，この一文から，
人間・この劇的なるもの (新潮文庫)
福田 恆存
http://amzn.asia/75DYfk3
という本の存在を思い出し，ざっと読みました．
なぜこの本を思い出したかというと，高3の頃に某現代文講師兼TVタレントの授業を受けていたんですが，その人が授業中で激推ししており，受験が終わった後に読もうと買い込んでいたわけです．
内容を1ツイートにまとめると
人間は自由ではなく役者のような必然性/個性/役割を味わうことを求めている．個人の手で生き方を探求してもそれは全体的な生き方への反逆に終わる．自由とは逃避であり，無目的な自由自体が合理化され，目的として追求されることにより，個人を解放するための自由が個性を殺す．
— そねお (@ATH_ray_) 2018年8月18日
という感じです． ちょっとまとめ過ぎですが，要は全体に属している自分という部分の役割を味わうことが重要，ということでしょうか．
そうは言っても，自分の役割なんてそうそう見つからないし信じられるものでもないとも思いモヤモヤしながら福田恆存の言葉を探してネットを彷徨っていると
「われわれがこしらへたものは、相対的であつて絶対ではないといふ原理をちやんと心得て、こいつを絶対化しようといふ努力」（対談『反近代につひて』）が必要である
「現在の私たちは単純な相対主義の泥沼のなかにゐる。なほ悪いことに、私たちはそれを泥沼とは感じてゐない。たいていのひとが相対主義で解決がつくとおもつてゐます。が、私は戦後の混乱のほとんどすべてが、この平板な相対主義の悪循環から生じてゐるとおもひます。私自身、ものを考へ、判断するばあひ、これにはまつたく手を焼いてをります。それについて詳しく書く余裕はありませんが、超自然の絶対者といふ観念のないところでは、どんな思想も主張も、たとへそれが全世界を救ふやうな看板をかかげてゐても、所詮はエゴイズムにすぎないといふことを自覚していただきたい」（「日本および日本人」）。
という言葉を見つけ，結局そうなのかい！ニヒリズムを意志で乗り越えろってことかい！
詳しく書く余裕はありませんが
って詳しく書いてくれ！と思いました．
そこで次に見つけたのが中島岳志さんのpdfです．
https://www.soka.ac.jp/files/ja/20170519_143858.pdf
気になった文は
つまり、私というものの、絶対的な本質っていうのは、仏教においてはないとされる。縁という作用によって私が構成されている。
そうですね．
ただこの木は、この場所に存在する。無心で存在している。そして、ここに存在すること によって、世界全体の、あるいは、宇宙全体の極めて重要な意味を担いながら、役割を担いながら存在している。世界はすべてが繫がり合い、そして、それぞれがそれぞれの場所において、役割を果たし合っている。そんな場所に、この木は存在しているのだ。だから、この木は、宇宙と一体化している。この木は、宇宙であり、宇宙はこの木に表れている。この木は、まさに、ミクロコスモスであり、宇宙全体のマクロコスモスは、このミクロの中に体現されている。だから、 この木は、宇宙であり、宇宙は、この木である。こんな関係性こそが、真の宗教である。
「世界は全て繫がっている。有機体的な存在である」というのが、 彼の言ったことでした。そして、その有機体の中には、それぞれの場所が存在する。自分が生きていて意味のある場所がある。
一は全，全は一です．鋼の錬金術師にも出てきます．
つまり、ガンディーが言いたかったことは何かと言うと、 「真理の唯一性とともに、真理に至る道の複数性を認めよ」ということ
西田幾多郎は、これを「多と一の絶対矛盾的自己同一」というふうに言いました。現象世界は多様なものとして現われます。しかし、それは、究極的に考えていくと、「一」なるものへと辿り着きます。「一」なるものは、「多」様なものとして現われ、「多」様なものは、「一」なるものへと還元される。この「多」と「一」というものは、絶対的に矛盾しているように見えながら、 実は一つのものです。 これは、西田だけが考えたものではありません。ガンディーは、山の例えで例え、そして、様々なアジアの宗教家たちが、このアジア的な認識論というものを考えてきました。牧口の 「天」という概念の中には、そういうような多一論が含まれています。それぞれの土地には、それぞれの道がある。そして、その道は「天」という普遍的真理へと接続していると考えたであろうと私は思います。そして、それぞれのトポスというものを、しっかり引き受け、その中で生き ていき、役割を果たしていくことによって、世界全体が一なるものとして、有機的に繫がってい く。
なるほど．多一論か〜．
価値相対主義に陥りがちな現代の風潮に対して上手くまとめた感じがします．
私が 20 歳の時に、大きな影響を受けた思想家に福田恆存という人がいます。私は、この人を通じて、トポスという観念に関して非常に接近していったんで すが、福田恆存は『人間・この劇的なるもの』という本を書いています。その本の中で彼はこういうふうに言っています。「個性などというものを信じてはいけない。もしそんなものがあるとすれば、それは自分が演じたい役割というものにすぎぬ。他は、一切生理的なものだ。右手が長いとか、腰の関節が発展 しているとか、鼻が効くとか、そういうことではない。また、ひとはよく自由について語る。そこでもひとびとはまちがっている。私たちが真に求めているものは、自由ではない。私たちが欲するのは、事が起こるべくして起こっているということだ。そして、そのなかに登場して一定の役割をつとめ、なさなければならぬことをしているという実感だ。なにをしてもよく、なんでもできる状態など、私たちは欲してはいない。ある役を演じなければならず、その役を投げれば他に支障が生じ、時間が停滞する―欲しいのは、そういう実感だ。」 私が、ここで生きていること。私がいないと何か停滞したり、うまくまわらないと思う、そう思える実感が、実は人間の本質を支えているんじゃないか。役割を引き受けること。何からも自 由になり、裸になっていくことよりも、トポスを引き受け、その中で役割を果たすことによって、 自分を見出す。それが、人間の本質なんじゃないかと、福田恆存は言っています。 このトポスを失わせてきた、このトポスを切り刻んできたのが、現代日本の社会なんじゃないかなと思う訳です。例えば、皆さんが直面する就職の問題。非正規雇用という問題があります。 非正規雇用や派遣労働というのがなぜ辛いのか。（中略）だから、私は派遣労働とか、非正規雇用の問題に対しては、徹底的に抗わなければならないと思いました。これはトポスを崩すからですね。職場に行ったら名前で呼ばれず、派遣さんというふうに呼ばれます。そんな人生が本当にトポスを引き受けた人生になるのか。
冒頭で挙げた本の言葉を，現代日本の非正規雇用という問題に援用しています．
たしかに非正規雇用は問題ですが，だったら正規雇用されている人々はみんな問題がないかと言うとそうではなく，相対主義に陥って悶々としている人って多いんじゃないかなぁ．
ここまで調べて疲れて寝てしまい，さっき起きてせっかくなので残しておこうと思い今これを書いています．
結論は出ていないですが，結局何か超越的なもの（神だったり真理だったり自然だったり全体だったり天だったり）を信じるべき．不可知論だけど，何か超越的なものが存在することだけは知っている．全体が見えたと感じたらそれは錯覚，みたいな感じなんだろうか．
でも，生きていると不思議なパワーを感じる場面ってありませんか？僕は割とあります（やばい人っぽい）．
結局，そういった「パワーを感じる場面」はこの宇宙における偶然/縁なんだと思いますが，その偶然に対して必然性を見出すことが「物語」なんじゃないかなぁ，と一応自分の結論らしいものを出してみる．
ちょっとロマンチックすぎますかね．
ストロガッツ 非線形ダイナミクスとカオス | 1章まとめ
「ストロガッツ 非線形ダイナミクスとカオス」の読んだところを備忘録とTexの練習を兼ねてまとめていきます．
- 作者: Steven H. Strogatz,田中久陽,中尾裕也,千葉逸人
- 出版社/メーカー: 丸善出版
- 発売日: 2015/01/30
- メディア: 単行本（ソフトカバー）
- この商品を含むブログ (2件) を見る
この本を読む理由は，
「力学系は用語が厨二っぽくてカッコイイから勉強したいな〜」
と思っていて，わかりやすく書いてあるという評判の本を探して見つけたという感じです．
Steins:Gateの影響で理系になったといっても過言ではない僕としては，ストレンジアトラクターとかバタフライエフェクトなどの用語だけ知っている状態だったわけで，いつかちゃんと勉強したいなと思っていたわけです（わかってくれる人いるはず）．
真面目な理由では，ニューロン/ニューラルネットのモデル化に興味があったり，研究室にレーザーがあったり，ということがあります．
理解するにはコードがあると良いよなと思って探した所，原書の実装をpythonでしていると思われるコードを見つけたので共有しておきます．（自分はまだ実行してません）
早速まとめていきます．
超ざっくりです．
1章 本書のあらまし
1.0 カオス，フラクタル，ダイナミクス
1.1 ダイナミクスの研究小史
1890年代 ポカンアレが3体問題に対する幾何学的方法を構築
カオスは初期条件に鋭敏
1950年代〜 計算機による数値実験が発達
1963年 Lorenzによるストレンジアトラクター上のカオス的運動の発見
1970年代 Feigenbaumの発見
「完全に異なる系が同一の道を経てカオスに至る可能性がある」
1.2 非線形であることの重要性
となる.
減衰する調和振動子
\begin{equation} m\frac{\mathrm{d}^2 x}{\mathrm{d}t^2} + b\frac{\mathrm{d}x}{\mathrm{d}t} + kx = 0 \tag{1.2.1} \end{equation}
は \( dx/dt \) と\( d^2 x/dt^2 \)の常微分のみを含むので常微分方程式．
これに対して熱方程式
\begin{align} \frac{\partial{u}}{\partial{t}} = \frac{\partial^2{u}}{\partial{x}^2} \end{align}
は時間\(t\)と空間\(x\)の両方を独立変数としてもつため偏微分方程式．
本書は時間のみに依存する(空間に依存しない)系を主に扱う
常微分方程式は一般には以下の式で与えられる．
\begin{align} \dot{x_1} = f_1(x_1, \cdots ,x_n) \\ \vdots \\ \dot{x_n} = f_n(x_1, \cdots ,x_n) \tag{1.2.2} \end{align}
式（1.2.1）を（1.2.2）の形式に書き換えると
\begin{equation} \dot{x_1} = x_2 \\ \dot{x_2} = \ddot{x} = - \frac{b}{m} \dot{x} - \frac{k}{m}x \\ \quad = - \frac{b}{m} \dot{x_2} - \frac{k}{m}x_1 \end{equation}
となる．
（1.2.2）のように右辺が1次のべき(線形項)のみのものを線形系とよぶ
たとえば振り子の振動は非線形系．ｘを振り子の鉛直方向からの振れ角，gを重力加速度，Lを振り子の長さとして，
\begin{equation} \ddot{x} + \frac{g}{L} \sin x = 0 \end{equation}
これと等価な系は非線形な系で
\begin{equation} \dot{x_1} = x_2 \\ \dot{x_2} = \ddot{x} = - \frac{{g}}{L} \sin x_1 \end{equation}
となる．
近似による線形化や楕円関数を使えば解けるが，系から直接的に情報を見るために，位置と速度を表す関数 \( x_1(t) \) \( x_2(t) \) にわける．
\( x_1, x_2 \) の座標を持つ抽象的な空間を見ると，曲線を解の軌道（trajectory）といい，空間は相空間（phase space）という．
相空間内はどの点も初期条件となりうるので相空間は解の軌道で埋め尽くされる．
今の手順の逆に行うことで，幾何学的な論法により、実際の方程式を解かずとも、相空間の軌道を描くことが可能になる
空間がn次元のものをn次元系とよぶ
非自律系(nonautonomous)
たとえば強制外力を受けるような、時間依存を受ける方程式
→系に新たな1次元を追加することで時間依存性を常に取り除ける
→幾何学的考察が可能になる
非線形はなぜ難しい？
線形系は部分に分解できる．
自然界ではこうは上手く行かない．
非線形な相互作用が生じているため難しい．
1.3 動力学的世界観
結局たいていは空間と時間の両面において複雑．
以上です．
数式打つの大変だった…（ブログ投稿続けられるだろうか…）
個人的には，最近幾何学にハマっていたので，ポアンカレがこの分野の創始者的な立場だったことを聞いて少し驚きました．しかし，方程式を実際に解くのではなく，解の軌道を幾何学的に理解するのが目的ということで，たしかに幾何学が重要だなと納得しました．
幾何学の本についても今度書きたいです．
あー読みたい本が多すぎるー
p.s. 数式中の重力加速度のｇの書体をこの「ｇ」にできる方法ってありますか？
知ってる方いたらコメントにお願いします><
