あなたのkugyoを埋葬する

主に読書内容の整理のためのブログです。Amazon.co.jpアソシエイト。

知/性のフロンティア!

 先日,2014年度表象文化論学会パネル「知/性、そこは最新のフロンティア 人工知能ジェンダーの表象」を聴講してまいりました.

・電子の時代のピュグマリオン――ポストヒューマン技術のジェンダー化をめぐる文化的想像力/小澤京子(首都大学東京
人工知能ジェンダーは必要か――ソーシャルロボットとしてのAIと被行為者性の観点から/西條玲奈
・挑発的なサイボーグであるために――「もはや誰も人間ではない」世界に生きるためのポリティクス/飯田麻結(東京大学
【コメンテーター】大橋完太郎(神戸女学院大学
【司会】北村紗衣(武蔵大学

第9回大会プログラム | Conventions | 表象文化論学会

 人工知能の表象について,芸術(小澤さん発表),倫理(西條さん発表),フェミニスト的科学論(飯田さん発表)から検討するパネルです.以下,聴講した雑感を述べたいと思います.
 当時のツイートは各所にまとまっています.私もひとつだけまとめました.
2014年07月06日のツイート - pubkugyoは破壊されない

追記3(2014.10.03)

 その後,公式にパネル内容報告が出ましたので,ご覧ください.私がほとんどフォローできなかったコメンテータの大橋さんからの指摘も含め,明快にまとめてくださっています.
表象文化論学会ニューズレター〈REPRE〉:第9回大会報告:パネル6

趣旨説明(北村さん)

 使われたスライドは,北村紗衣 - 資料公開 - researchmapにアップされています.PowerPointで作られていますので,若干閲覧しづらい環境のかたもいらっしゃると思いますが,ぜひプレゼンテーションモードでご覧ください.
 パネル開催のきっかけとなったのは,昨年末の*人工知能* 29巻1号の表紙に採用された絵だったそうです.そこには,

・質の担保と倫理的公正性が求められる学会という媒体でこの表紙が掲載されたこと(ハヤカワSFなら「またいつものセンスが悪い表紙」とバカにされるだけですむ)
・女性と家事労働を結びつけている、という労働における性役割を無批判に反復するような図柄
・「家事をしてくれるかわいらしい女性を作りたい」という性的ファンタジー…科学技術に潜むヘテロセクシャル男性中心主義
・単にデザインが古くさくて陳腐で「レトロ」の領域にすら達していないという視覚的な問題

北村紗衣 - 資料公開 - researchmap

という問題があったとされます.このリストアップはMECEでないと思ったので(1個めの「倫理的公正性」の中身が2個めと3個めとになっている),聞きながら私は以下のように問題点をまとめました.

  • 女性と家事労働とを無批判に結んでること
  • 科学分野一般におけるジェンダバイアスの現れと見えること
  • 美的に時代遅れなこと

このうち上の2つは,人工知能学会関係者の皆様へ - researchmapでよく論じられており(なぜ引用されなかったのかはわかりませんが……),それを踏襲したということでしょう.最後の3つめには特に論証がない*1のですが,いちおう,そのあとの北村さんの説明内容から示唆されるのは,現代の人工知能表象(映画に出てくるやつ)は,特定の身体を持たない形のがはやっており,だから今回の表紙のような表象は時代遅れだ,ということのようです.
 さて,趣旨説明は,上記の問題意識をもとにして,つづく3発表の着眼点を,おおまかに告知してくれました.それは,

  • 科学分野一般におけるジェンダバイアス
  • 人工知能表象に際し、それにどういうジェンダをまとわせるか

という2つの点でした.どの着眼点がどの発表に現れているかはわかりませんでしたが,あとから考えるに,こういうことだったのだと思います.すなわち,

  • 小澤さん発表:テクノロジー表象に女性ジェンダをまとわせた例は,歴史的に見ていろいろなものがある.(そして,テクノロジー表象には女性ジェンダをまとわせることが多いのではないか,というのが示唆される?*2
  • 西條さん発表:ソーシャルな人工知能にジェンダをまとわせて表象すると,いろいろな効果が起きる.そこで,ジェンダの望ましいまとわせかたは,こうである.
  • 飯田さん発表:人工知能は,人間のジェンダのまといかた・ありかたの理解に示唆を与える.

 私としては,このテーマを分析するならば,人工知能の表象について論じ,ジェンダの表象について論じ,それらが関係しあうことを論じる,という手順を踏むのがよい,と思って伺いましたので,ジェンダ表象についての議論が特になさそうだ,というのが,今後の課題として残るな,と考えておりました.言うまでもありませんが,人工知能のありかたとそれの表象のされかたとはかなり違いますし,ジェンダのありかたとそれの表象のされかたとも,やはりかなり違います.シミュレーションと表象 - 9bit の終わりのほうで論じられているように,今回の「表紙絵」問題は,人工知能の表象*3とジェンダの表象との関係が問題になったのだと思うので,その議論が今後あればよいなと考えました.ただ,ジェンダの表象の問題はジェンダの問題の中心的なところにあることはたしかですので, *ジェンダの議論に親しんだ聴衆向けであれば,* ショートカットしてもよいところかもしれません.
 (ここから,2つ余談です.)
 とはいえ,パネルの現場では,会場設営に尽力している研究者を,男性の欲望の対象として描くような発言がネット経由で聞こえており,私こじんは相ッ当イライラしておりました.研究に従事する者どうし,少なくとも研究の場では,研究者として互いを見ていただきたいものです.
 あと,*人工知能*の表紙の紹介のしかたに関し,それをネタにして会場の歓心を買う,というものだった,という批判がありましたが,私はその批判は当たっていると思います.PowerPointをご覧くださればわかるとおり,4つの号の表紙は,スライドの同じ位置にアニメーションして次々と表示されるようになっています.ひとは,繰り返しに接するとそれだけで笑ってしまうものです.より公正を期すのであれば,4つの表紙は一覧できるように表示されるべきだったでしょう.見やすさよりも情報を詰め込むのを重視したスライドだったと思いますので.

追記1(2014.07.20)

 紹介のしかたについては,その登場した順番を紹介することに主眼があった,との解説をいただきました.もちろん,順番がわかりかつひとの笑いを誘わない方法は考えられるかもしれませんが,結果はともかく少なくとも目的が別にあったということでしたら,特に問題ない表現だったのだと思います.私の理解不足もあったかと存じます.お詫びいたします.

電子の時代のピュグマリオン(小澤さん)

 さきほど,小澤さん発表を「テクノロジー表象に女性ジェンダをまとわせた例は,歴史的に見ていろいろなものがある.」という内容としていったんまとめましたが,正確には,発表には2つの側面があると思います.

  • テクノロジーの身体的表象に女性ジェンダをまとわせた例は,歴史的に見ていろいろなものがある.
  • 女性ジェンダの身体に対し,テクノロジーの発達がいろいろな男性ジェンダからの視線を促してきた.

ここで,話は人工知能ではなく,テクノロジーに向けられていることに注意が必要でしょう.人工知能もそうですが,テクノロジーそのものも,それ自体に身体を割り当てるのはカテゴリー錯誤です.しかしながら,テクノロジーを表象するようなものとして,人間のそれに似た身体が利用されてきたことに注目して調査をすれば,そうして利用される人間の身体のほうに特定のジェンダ的特徴が割り当てられていることもあいまって,どんな特徴をどんなテクノロジーに割り当てて描くとウケたのか(現代に影響を及ぼして生き残れるほどにウケたのか),という疑問への答えが得られます.
 結論部分で,テクノロジーには男性ジェンダ身体としての表象が与えられる・男性ジェンダ身体をテクノロジー的視点で描くことがある,という,この発表の主旨からすれば衝突的であるような事態もあることが提示されるのですが,この対立する事態をうまく調停する視点を今後提示していただければ,個人的にはたいへんうれしく思います.
 表象文化論が学問として秘めている力が爆発する瞬間のひとつは,以下のようなことを教えてくれるときであると思います.すなわち,私たちが何の気なしに利用しているものが,じつは(過去の)表象に色濃く影響されてしまっているのだ,ということをです.表象文化論学会について | Association | 表象文化論学会に書いてあることの内容も,その全体まで私に理解できるわけではありませんが*4,ひとつにはそういうことを指摘しているものでしょう.その点で,現代につながるテクノロジー表象の歴史を「ピュグマリオニズム」の系譜として提示した小澤さん発表は,「表紙絵問題」を検討するうえでよい示唆を与えてくれるものだと思います.古代ギリシャ時代からあんまり変わってないという点で,先鋭的な価値観の提示ではないんだね,っていう.

人工知能ジェンダーは必要か(西條さん)

 先ほど,西條さん発表を「ソーシャルな人工知能にジェンダをまとわせて表象すると,いろいろな効果が起きる.そこで,ジェンダの望ましいまとわせかたは,こうである.」とまとめましたが,その望ましいまとわせかたとは,「ジェンダー中立的」なまとわせかた,つまり,ひとがそれに読み込むジェンダが偏らないようなまとわせかた,ということだそうです.
 どんな見えかた・ふるまいかたであれば,それに読み込めるジェンダが偏らなくなるか,は,工学的に解決されるべき問題だと思うのですが,私が難しいと思うのは,読み込むジェンダが偏らないというのは,どういう状態のことを指すか,ということです.西條さん自身があげていらした例はこうです:読み込まれるジェンダの割合が,男:女:無性で1:1:1.この提言はあくまでたたき台としてのものだと思うので,この主張をサポートする論拠がしっかり用意されているわけではないと思いますが,もしジェンダということで見るならば,ジェンダの「グラデーション」前提――規範的な男性ジェンダと規範的な女性ジェンダとを両極に置き,あらゆるジェンダはその軸上のどこかに位置できる,無性と中性とはひとしくこの軸の真ん中に置かれる,という前提――は,すぐさま批判の対象になるでしょう.ジェンダスタディーズが主張してきたことのひとつは,このような前提もまた,(なんとなくリベラルであるようには見えるけれど,)男性ジェンダ・女性ジェンダという2極を特権的なものとして扱っている点で,性別二元論を後押しする結果になってしまっている,ということだからです.
 この問題については,私としては,ソーシャルな人工知能の表象だけに的を絞って議論するかぎり,ジェンダ表象は「認知の容易さ」に奉仕するようにかなり極端に規範におもねっていてよい,それはしかたないことだ,と考えています.なぜなら,ジェンダ表象の問題は,ひとりソーシャルな人工知能のデザイナだけががんばれば解決するというものではないからです.根本的な問題は,(あるとすれば,)現在の社会の覇権的なジェンダ秩序にあるのであり,それを変える努力が行われるべきでしょう.ソーシャルな人工知能のデザイナが,ほかの職業人やデザイナと異なる特別な義務を負うわけではないと思います.
 さて,私がこの発表でおもしろいと思ったのは,じつはこの提言の部分ではなくて,ソーシャルな人工知能の表象にジェンダを読み込むとはどういうことか,を議論した箇所でした.
 私ははじめ発表をきいて,次のようなことだと受け取りました.すなわち,こうしたジェンダ読み込みは,

  • 「擬人化」として理解すると,無生物に意図を読み込むような錯誤を犯しており,つまり誤りであるが,
  • 「社会的行為の被行為者として扱う」(行為の対象となる,patientとして扱う)として理解すれば問題ない.

というようなものである,と.しかし,あとで確認したところでは,この2点はあくまで観点の違いであり,前者はひとの観点から,後者は人工知能の観点から描いたものというだけで,どちらが誤りということはない,とのことでした*5.むしろここで主張されているのは,ひとは,何かを擬人化すると,それを社会的行為の被行為者として扱ったことになる,ということのようです.私は,この2つの扱いにそのような関連があるとは思っていなかったので,たいへんおもしろく伺いました.
 私がこれを聞いて考えたのは,擬人化ということについて,もう少し特定した理解を与える必要がありそうだ,ということです.どういうことでしょうか? 私の考えでは,擬人化が社会的行為の被行為者扱いに結びつく理由はこうです.すなわち,ひとであることは社会的行為の被行為者として扱われることに値し,かつ,擬人化はひとであるかのように扱うことである,ということです.ですが,ひとであっても,つねにあらゆる種類の社会的行為の被行為者として扱われるわけではないと思います.また,社会的行為のなかでも,道徳的配慮という行為の対象者,として特定するならば,この問題はより大きくなってきそうです.

挑発的なサイボーグであるために――「もはや誰も人間ではない」世界に生きるためのポリティクス(飯田さん)

 前二者の発表が,あくまでも通常のひと表象を基準として,そこから外れる形でのテクノロジー表象(ひとをテクノロジー的に表象すること)に着眼していたのに対し,飯田さん発表は逆に,人工知能をエンボディメントするという(おそらく,比較的最近になって登場した)振る舞いが,ひとのジェンダ理解に影響を与える,という内容になっていたと思います.
 主体としてのひとが,客体としての人工知能を操作・観察する,という構図*6があり,「ポストヒューマン」の称揚は,それを揺さぶり,流動性をもたらすものになっているようです.そしてこの揺さぶりがうまくいっていれば,たしかに,人工知能を操作すること・観察すること・理解することを通して,逆に,ひとを操作すること・観察すること・理解することへの理解も変わってくるのだと思います.また,こうして構図を揺さぶることで揺さぶられるのは構図だけではなく,ひとが固定的に持つとされる「身体」というものの理解もまた,揺さぶられるのだと思います.つまり,ひとを「身体」として固定的に理解するよりも,もっと流動的に,その場の文脈に即した「エンボディメント」として理解するほうがよい,というわけです.
 ポストヒューマンを称揚したいくつかの主張を紹介したあと,後半で,情動の理解についての主張に話が進むのですが,この2つの関連はよくわかりませんでした.情動について,それを「関係性〔relationality〕」に基づくものとして理解したものとされる主張が5つほど引用される*7のですが,個々の主張に「関係」という語彙が登場するからといって,それらが同じ目的でその語彙を使っているとはかぎらないので,ここはもう少し議論がほしく思いました.もちろん,みんなてんでバラバラなものを指しているけど,つい「関係」という語彙を選んでしまうという時代の空気がある,だから「関係」は重要な語彙なのだ,というような議論も,できなくはないと思います.

今後……

 こうした問題は工学上でもますます喫緊のものになっていくでしょう.工学者としては,ジェンダ付与が目的に資するならばどんな俗悪なものでも付与するというのがまっとうな態度だと思います.その点で,作成者の趣味が前面に出てしまうような状況があるとすれば,それはこの分野がまだ工学的にちゃんと扱われていないからではないか,と思います.*人工知能*の表紙の目的を考えれば,学会員の投票で選ぶのはおかしくて,たとえばA/Bテストをして売れたほうを採用するとかすべきなんじゃないか,というわけです.
 いっぽうで,工学倫理上は,邪悪な目的のために工学的技術を使うことに対し,工学者は良心的反対をすべきだ,という議論もあるわけで,工学倫理の一分野として,ジェンダ表象の問題も扱われていくのではないかな,と予想します.*8
 19日からつくば国際会議場で開かれる第53回日本SF大会 なつこんでも,以下のようなセッションがあるようです:

 人工知能の発達によって、人類は史上初めて、自分たちと同じ社会的な知能を持つ存在の振る舞いを自由に設計できる時代に突入しつつある。こうした人工物が将来我々の想像力にどのような影響を与えるか、人工知能研究とSF文学やアートの両面から議論する。

2日目の企画 | NUTS-CON

 議論の進展が期待できそうですね!

追記2(2014.07.20)

 “フロンティア感がない”旨のコメントをいただきました.フロンティア(「処女地」と訳されることもある)には,それだけでジェンダの問題が見いだせる,というご指摘もあったかと思いますが,ここでは,こちらの動画にあるように,フロンティアを拓くのは,多くの分野が一つになったときである,と考えたいと思います.

*1:あるものが時代遅れかどうかは,個人の感じかたの問題ではなく時代の問題なので,現在の流行をもとに実証的に確認できるはずです.

*2:これを論証するなら,たとえば,男性ジェンダをまとわせた例とどっちが多いか・どっちが重要か,などを議論しないといけないが,男性ジェンダをまとわせた例との比較は少ししか出てきませんでした.後述します.

*3:この場合,人工知能が,特定の身体をまとったものとして,絵によって表象されている,のであり,特定の身体をまとった人工知能が,絵によって表象されている,わけではないと思います.

*4:同音異義語でダジャレを作って言葉をもてあそぶのが分析に資するわけねーだろと思います.テキトーなこと言ってんじゃねーって.

*5:ただし,私としては,人工知能の観点などというものは,ないか,あるならばジェンダ付与が問題にならないか,どちらかだと思います.

*6:この構図がおびやかされることはよくありますね.しかし,それが恐ろしく感じられるとすれば,それは我々がひととして主体の位置を手放したくないことによるのでしょう.

*7:たしか5つ.配布資料と投影スライドの中身とが違っていたような気がするので,正確にはわかりません.配布資料に書いてあるのが引用文だけ,というスタイルは,以前もそうだったので,飯田さんがおそらく自覚的に選んでおられるものだと思います.

*8:私は既存のジェンダ秩序に対する反対は,趣味や政治的立場によらずほとんど倫理的な善にひとしいものだと考えており,またそれを論証すべくがんばってきたのがジェンダスタディーズだとも思っております.広く受け入れられていない主張にもかかわらず,受け入れない理由を作るほうが難しいという点では,功利主義的種差別反対の議論と似たところがあると思います.