芸術家トレヴァー・パグレンと監視社会と日常

トレヴァー・パグレン：僕が「invisible images」と呼ぶのは、マシンが他のマシンのために生成する画像です。「invisible images」は、自動運転車から、自律型ドローン、君がコカコーラとペプシのどちらが好きかをフェイスブックでチェックしている人工知能まで、あらゆるものの動作の一部として組み込まれている。以前、スパイ衛星や海中のインターネット ケーブルがテーマのプロジェクトをやったけど、「Invisible Images」は、スパイ衛星の内側、海底に沈んでいるケーブルの内部で起こっていることがテーマです。動作しているデータ サーバーの中では何が起こっているのか、自律型ドローンの内部では何が起こっているのか。それらは画像に基づいた動作でありながら、基本的に、プロセス全体が人の目に触れることはない。だから、僕が作るのは、自律型マシンやコンピュータが見ているイメージを、人間が知覚できる形に転換するツールです。

コンピュータ ビジョンはデジタル画像を生成して、そこから何らかの情報を抽出します。道路の左右の両端を把握したり、顔認識で何かを顔として特定するわけです。そのプロセスをデジタルで行う。つまり、画像を取得し、例えば色値を意味する一連の番号に転換して、顔の指紋のようなものを作成します。それを利用して、人物の身元を推定できるのです。顔の比率はひとりひとり違うから、基本的に、顔認識が可能です。笑顔かどうか、ショックを受けたり驚いた表情をしているか、そういう感情も推定できます。ジェンダーを推定するマシンもあるんですよ。誰かの顔を見て「この画像でこの人物は85.11%が女性、この画像では66.44%が女性」と推定するんです。こういうアルゴリズムには、潜在的なバイアスが組み込まれています。100%女性というものが存在すると決めた人がいて、その視点から判断するわけだから。では、その100%とは一体何でしょうか？ バービーなのか、グレース・ジョーンズ(Grace Jones)なのか？ 誰がそれを決めるのか？

顔認識はどちらかというと骨相学に近いけど、いいですよ。どうぞ。

コンピュータ サイエンスや人工知能の分野では、今、そういう類のことがたくさん起こっていますよ。実際、非常に重要な問題です。はっきり言って、その種の価値観やバイアスや差別がインフラストラクチャに組み込まれていくわけですから。現実として、非常に差し迫った課題です。

人の外見を測定して分類する、あるいは、人工知能がショッピング モールにいる人の顔認識によって買いそうな商品を推測する…そういうのは、全部、視覚現象です。そして従来、人間は視覚イメージを武器に変えたり、操作に利用したりするばかりで、視覚文化で良い伝統を築いたとは言えません。だから、現在の問題に美術史的な視点からアプローチする限り、非常に限定的にしか現状を理解できません。最終的には、権力、資本、人種の分析というツールを持ち込むことで、意義のある対話が生まれます。

あれは、故人の革命論者や哲学者の顔に高度な顔認識ソフトウェアを使ってみた作品です。顔認識のようなテクノロジーが発展すれば、将来シモーヌ・ヴェイユやフランツ・ファノンのような人物の存在が不可能になりうるのか、それを問いかけているのです。僕たちは、僕たちの事実上の自由が常にメタデータ シグネチャによって変質される社会へ、急速に向かいつつあります。そういう社会では、市場の資本であれ、治安維持、法の執行、監視であれ、ツールを利用して権力手段の効率を高めることがますます容易になりつつある。自動的に住民全員の顔認識を行なって、横断歩道以外の場所で道路を横切った者に違反切符を切る、そんな都市は明日にでも作れます。実際、明日にでも、そう、できる。僕が示したいのは、ファノンやヴェイユのような人物は、法を破ることでこそ、社会の進歩に貢献したということです。間違っていたのは、法律のほうだったから。中央集権化した政治や法執行の体制がますます自分たちに都合よくツールを利用できる社会では、一体どうなるのでしょうか？

そういうことすべてに共通して、僕は非常に気懸かりな根源的疑問を持っているんです。つまり、誰が物事の意味を決めるのか？ 誰が女性と男性を規定するのか？ 誰が解釈を適用する方法を決めるのか？ 意味に関する政治的な闘いは、同じく権利に関する闘いであり、自己表現の闘いです。自己表現とは表すこと、ある意味でイメージ作りの一形態です。

大勢の人がグーグルにバイオメトリック情報を提供するのを見て、ぞっとしましたね。それも、ただインスタグラムに投稿できるというだけでね！ あのテクノロジーは、色々な意図に簡単に利用できるんです。でも、水面下で何が起こっているかというと、似ている肖像画を教えてもらえるという餌に釣られて、何百万人もの人間が顔認識データベースに自ら進んで登録している(笑)。

難読化や隠蔽のツールを作るテクノロジーはあります。テキスト メッセージを暗号化したり、顔認識ソフトウェアが読み取れない変わったメイクアップのパターンを使うとか…。しかし、そういう方法で、自由が新たに再生できるだろうか、問題はそこです。テクノロジーがもたらす倫理的な課題を、テクノロジー自体がどの程度解決できるだろうか？ 果たして、バイアスのない人工知能を構築できるだろうか？ 隠蔽に関しては、僕は賛成です。実際に作ったツールもある。しかし、戦略だとは考えません。利用できる、ちょっとした方策といった程度です。でも、こういうことから、僕たちが望むものがわかってくる。僕たちはどんな社会で暮らしたいのか、それを自問することが非常に大切だと思います。フェイスブックによる監視であれ警察による監視であれ、何にも監視されない場所がある社会を求めるのか？ あらゆる場所が監視される社会を望むのか？ 監視しない場所の存在を許すテクノロジー…そういうのは、自分が暮らしたい社会を想像したり、明確な言葉にするうえでは役に立つだろうけど、テクノロジーそれ自体が多くを解決できるとは、僕は考えていません(笑)。最終的には、テクノロジーや企業という基盤ではなく、市民団体によって社会全体の規模で解決されなくてはならない問題だと思います。

僕たちの間でよく話題になるテーマは、ひとつには、いかにして世界を批判的に観察して、僕たちが組み込まれている環境や状況や歴史に対する視点を獲得するか？ そしてもうひとつ、 いかにして、自分たちが望むものの先駆けを作り出すか？ 社会風土全般がバラバラに瓦解して、政治と経済の危機を人工知能で対処しようとするディストピア的監視社会ではないとすれば、どんな未来を僕たちは想像できるだろうか？ 僕たちは、頭に描く未来へ進んでいくんです！ だからこそ、僕はいくつかのプロジェクトで、まさにそれをやろうとしているわけです。衛星軌道に反射板を打ち上げるプロジェクトは、従来の伝統に属さない宇宙との関係を想像する意味で、そのひとつです。人類はこれまでずっと、軍事と利潤の観点からしか宇宙を見なかったわけだから。

数知れない電話会議(笑)。無数のスプレッドシート。やって欲しいことを確実にやってくれる宇宙船を建造するのは、当然、非常に難しい。やり方としては、とにかくできるだけシンプルにして、テストして、テストして、さらにテストする。だけど、打ち上げそのものは、極めて単純明快です。大金を払えば済むことですから。

最初は「ああスペースXですね、あのイーロン・マスクがあなたのアートを打ち上げるんですね」って感じ。それに対して「いや、そういうわけじゃない」と(笑)。小切手を渡せば、彼らは彼らの仕事をしてくれるという、それだけのことです。

これまで宇宙に打ち上げられたすべてと、正反対のオブジェを目指しているんです(笑)。基本的に、プロジェクトの大きな割合は、プロジェクトがブランド化するのを回避することに尽きました。資金の出所にとても注意を払ったし、僕たちが使う言葉にも非常に気を配りました。正直に言って、広告や軍事技術の示威ではないプロジェクト、できる限り美的オブジェに近いプロジェクトをやろうとするのは、本当に難しい。

僕にとって現在は、テクノシュールな、ゴシック的な時期ですね。いくつかの作品では、視覚の与え方に影響が現われていると思います。例えば、人工知能を訓練するプロジェクトをやっているのですが、訓練例として、キッチンにあるものを認識できる人工知能を作るんです。レモン、ライム、フォーク、皿…キッチンにある物すべてのリストを作って、それぞれの物体に対応する画像を何千枚も人工知能に与えます。すると、学習によって、それぞれの物体を見分けられるようになる。それから、神経回路網に不合理なものを見させる訓練を始めました。「The Interpretation Of Dreams － 夢解釈」という名前をつけた人工知能は、フロイト派精神分析に基づいて物を見ます。だから、キッチンに置いても、ナイフや皿やフォークではなく、むくんだ顔や注射やかさぶたのある喉として見るのです。「Monsters of Capital － 資本の怪物」というのも作りました。これは、過去に資本主義の象徴とされた怪物しか見えない。魂を盗まれてサトウキビ農園から現われたハイチのゾンビとか、初期の貴族階級の身なりをして血を吸うバンパイアとか。2～3年前だったら、そういうイメージを使うことはなかったでしょうね。そこまであからさまに、という意味だけど。

馬鹿げてたな(笑)。世界中から知り合い同士が何千人も集まっただけ。それは確か。だけど、いい人たちにも沢山会ったし、討論会で国連人権委員会の議長とも同席したし、世界をもっと公正にする方法を真剣に考えてる人たちもいました。そういう対話に貢献できるのは嬉しい。あの会議で、社会問題は経済市場では解決できないと公言したのは、僕一人のような気がしたな。ダボスで僕の名前が連呼されたのは「トレヴァー、君の出席を非常に歓迎している。ぜひ、違う視点からの意見を聞きたい」という文脈だけでしたよ。