Seumas Miller, Dual Use Science and Technology, Ethics and Weapons of Mass Destruction

Springer，2018年

---

はじめに

科学技術の進歩は、医療や産業の発展を通じて社会に大きな恩恵をもたらしている。しかしその一方で、兵器開発やテロにおける使用など悪用の危険性の高まりが憂慮されるようになってきた。それだけでなく、知識や技術の誤用や適切な管理の怠慢が環境破壊や大災害につながる可能性も指摘されている。このような善悪両用性という意味での用途両義性を有する科学研究や技術は「デュアルユース科学技術」（以下「DU科学技術」と表記）と呼ばれ、安全保障上のリスクに対する懸念から、その規制のあり方が世界的に議論されてきた。本書はDU科学技術の倫理的問題を主題に据え、哲学的な観点からその考察がなされている著作である。

著者のSeumas Miller氏（以下敬称略）は、行為論と応用倫理学の両分野にまたがって活躍する研究者である。前者についてはThe Moral Foundations of Social Institutions: A Philosophical Study（2010）で、集団の目的を軸にした多様な社会組織の分析を下敷きとして、集団的責任（collective responsibility）や組織的腐敗（institutional corruption）について独自の立場を展開している。また、DU科学技術については、“Ethical and Philosophical Consideration of the Dual Use Dilemma in the Biological Sciences”（2007）で生命科学分野にフォーカスして倫理的問題の整理を行なっているほか、“Moral Responsibility, Collective Action Problems and the Dual Use Dilemma in Science and Technology”（2013）では本書前半部につながる萌芽的議論を提示している。本書は、Millerが長年にわたって複線的に取り組んできたこれらの研究の集大成として位置づけられるだろう。

本書の構成と各章の主張

本書の構成は以下の通りである（以下、括弧書きの数字は本書のページ数を指す）。前半部（第一章〜第四章）は、いわば「理論篇」である。DU科学技術の定義づけと倫理的問題の析出を行なった上で、著者独自の集団的責任論の展開と精緻化が目指される。そして後半部では「応用・各論篇」として、前半部の議論を援用しながら、化学・原子力産業、サイバー技術、生命科学といった個別の領域におけるDU科学技術の倫理的問題について考察がなされる。

続いて各章の主張を概説しよう。第一章のイントロダクションに続く第二章では、本書の主題であるDU科学技術の定義づけと、問題関心の中核をなすDUジレンマが取り上げられる。Millerによれば、ある科学技術が善悪両義的であるのは、（1）有益な目的と有害な目的のどちらにも向けて使用可能であり、（2）当該の技術を用いた単一の行為によって重大かつ大規模な危害が生起可能であり、（3）研究者が有益な（少なくとも無害な）帰結を意図しており、（4）研究者が有害な帰結を合理的に予見可能である場合である。そして危害防止原理の拡張版である「危害゠手段提供禁止原理（No Means to Harm principle）」（何人たりとも直接的か間接的かを問わず、危害を加える手段を他人に提供してはならないという原理）を採用するならば、研究者や技術者、ひいては政策決定者は、悪意のある利用者の存在によって研究開発の推進と差し控えの間でDUジレンマに直面するとされる。

上述の定義で想定されているような深刻かつ大規模な危害が発生する背景には、当然それらをもたらす技術を構成する科学的知識の存在がある。第三章では、「危害゠手段提供禁止原理」に加えて、DU技術を構成する科学的知識とその対概念である無知（ignorance）を軸に、科学者や技術者に帰属される道徳的責任の内容が析出される。Millerによれば、特に核兵器のような大量破壊兵器に関して、関係するすべての科学者や技術者、政府関係者には、「彼らと他の構成員（例えば将来の研究者）が共同的に関連する知識の網の目を持っていない（そして、それを共同で持つようになることは容易ではない）という相互知識」（35）を成立させる道徳的責任がある。ここで言われる「知識の網の目（web of knowledge）」とは、個人が持つ断片的な知識が「推論的に統合されたクラスター」（30）であり、大量破壊兵器の製造方法などが該当する。つまり、科学者や技術者には、次のような集団的な道徳的責任があることになる。それは、何人たりとも個人では大量破壊兵器の製造方法について無知である状態のみならず、悪意のある専門家集団の構成員でさえもその製造方法について無知である状態を維持せねばならないという責任である（36）。

続く第四章では、DU科学技術をめぐって研究者や技術者に帰属される道徳的責任の「集団的」側面について論じられる。Millerは研究開発活動を「共同認識行為（joint epistemic action）」として位置付ける。例えば、ヒトゲノム計画のような数千人規模の研究プロジェクトを考えてみよう。個々の科学者はヒトのゲノムの全塩基配列という知識の網の目の断片を獲得することに貢献したのであり、その知識の断片と知識の網の目に対して、「他者と共同的に個人的な責任を持つ」（47）。つまり、個々の研究者は大規模なプロジェクトに対する完全な責任（full responsibility）を帰属されるのではなく、各人が獲得に貢献した知識の断片への責任を全うすることを通じて他の研究者たちと共同でプロジェクト全体に対する責任を担うのである。そして章末では、こうした集団的な道徳的責任を果たすことを阻む「集団的行為の問題（collective action problem）」が取り上げられる。すなわち、研究開発活動が企業や大学間、ひいては国家間の熾烈な競争的環境で営まれている以上、研究者や技術者個人が「危害゠手段提供禁止原理」にコミットしていても、組織や国家の利益が優先された結果、リスクの高いDU研究開発が推進されてしまうという問題である。

残りの第五章から第八章では、第四章までに導入された諸概念を援用しながら、個別の領域におけるDU科学技術の倫理的問題について考察がなされる。

まず第五章では化学産業に焦点が当てられる。この領域におけるDUジレンマの例として、高性能な殺虫剤の研究開発が農地等の害虫駆除に貢献する一方で、テロリストによって殺虫剤に含まれる猛毒物質が市中に大量散布された場合には甚大かつ重篤な危害がもたらされるというものがある。Millerはこの問題が研究者や化学者だけの道徳的問題ではなく、政府、国民国家からなるグローバルコミュニティ、市民、軍隊、化学工業会社、化学工業協会、研究組織といった多様な個人、グループ、組織にとっての問題であると指摘する。彼によれば、この分野の研究開発に関する集団的な道徳的責任とは、DUジレンマを引き起こす集団的な専門的知識が悪意を持った行為者の手に渡ることを抑制するべく、知識の網の目と対をなす「制度に基づく予防の網の目（web of prevention）を設計し、実施することである」（65）。具体的には、化学兵器禁止条約（CWC; the Chemical Weapons Convention）に基づく化学兵器の全面的禁止に向けた国際的な取り組みに加えて、国家・産業界・組織レベルでの規制を通じた、DU問題の特定、研究開発の実施・成果公開に関する裁定・助言の実施が要請される。

第六章では原子力科学にスポットが当てられる。原子力分野の研究開発は、平和目的の原子力エネルギー利用を可能にした一方で、人類滅亡に足る大量破壊兵器を複数の国家が保有する状況を生み出しただけでなく、悪意ある行為者が「ダーティー・ボム（放射性物質散布装置）」を配備する可能性を助長し、チェルノブイリ原子力発電所事故や福島第一原子力発電所事故のような過失による原子力災害が発生する条件を作り出してきた。Millerはこの領域でも「危害゠手段提供禁止原理」を援用し、原子力分野の科学者・技術者は、研究開発への従事と成果公開に関して道徳的責任を有するとした上で、道徳的責任と組織内部で付与される責任が衝突する場合には、道徳的責任が優先されると主張する（81）。そして、国家間の軍拡競争を含む集団的行為の問題の解決に向けて、第五章でも援用された「予防の網の目」の一形態として、強制力を伴う協力的スキーマが必要であると論じる。

第七章ではサイバー技術のDU問題が取り上げられる。その典型例は、コンピュータワーム（自身で増殖を繰り返して他のコンピュータに有害な動作を広めるマルウェア）や自律型ロボットであろう。特にこの領域に特有の問題として、「人間を〔コントロール〕ループの外に（human out-of-the-loop）」留め置くキラーロボット（自律型致死兵器システム）が招いた帰結に対する責任については盛んに議論がなされている。Millerは、ターゲットの選定や攻撃の開始に際して人間の命令を必要としない自律型ロボットであっても、その設計者や使用者は集団的に道徳的な責任を負うとする立場を支持している（101）。

そして応用・各論篇の最後にフォーカスされるのは、生命科学分野のDU問題である。生物科学の発展は、疾病のコントロールに貢献した一方で、国家による生物兵器開発やバイオテロの推進を後押ししてきた。本章でMillerは科学的探究の自由が基本的な人権であると認めつつ、その行使が生命の権利と抵触する場合には例外的に検閲の対象となる点に触れる。特に生体部品の改変や組み換えを通じて生命システムへの理解を深め、新規の生命システムを人工的に設計・構築しようとする合成生物学や関連分野の研究は、人命や健康に重大な危害をもたらしうることから慎重な判断を要するとされる。そしてこの分野のDU問題に対して、第五章で導入された「制度に基づく予防の網の目」として多岐に渡る規制措置を提唱して本章を締めくくる。具体的に挙げられるのは、病原体サンプルの保管・輸送・物理的アクセスに関するセキュリティ措置の義務化、DU技術や病原体サンプルに関わるライセンスの義務化、リスクの高い実験に関する教育トレーニングの義務化、バックグラウンドチェック等の人的なセキュリティ規制の義務化、研究成果の検閲および公開制限などである。

コメント

はじめに本書全体の特徴をいくつか挙げておこう。第一に、前述のとおり、本書は前半部の「理論篇」と後半部の「応用・各論篇」からなる。本書を通読することによって、DU科学技術をめぐる倫理的問題とその解決に向けた著者の理論的ツールを理解した上で、各領域への展開を豊富な具体例とともに見渡すことができる。第二に、Millerが依拠する倫理的原理や独自の集団的行為論については「理論篇」で詳細に説明されており、哲学・倫理学の初学者であっても読み通せるように配慮がなされている。この点から、DU科学技術の倫理的問題に関心を寄せる人が最初に手に取るべき著作として推薦できる本書の価値は非常に高い。

本書で提起される主張の中でも特に興味深く思われるのは、DU科学技術に関する倫理的責任が集団的なものでありながらも、あくまで「関係的な個々人の責任（relational individual human responsibility）」（39）であるという個人主義的な責任理解である。このような責任理解によって、問題となる知識の網の目を断片単位で精査することを通じて、関係する研究者・技術者個人に対してより具体的な責任帰属が可能となるように思われる。翻って、大規模なプロジェクトの責任全体を個々人に帰属しない点で、Millerのアプローチは個人に過大な重責が課されることを回避できるとともに、知識の網の目に対応する予防の網の目の中で自分は何をするべきかという問いに関係者一人ひとりを向き合わせるかもしれない。

他方で共同行為論を論じるより一般的な文脈に目を移すと、個々人ではなく集団の行為者性を重んじるアプローチも有望視されており、（Gilbert 1989, Pettit and Schweikard 2006）、特に組織や国家の意思決定にかかわる責任の問題に対して、Millerの個人主義的な見解は分が悪いように思われる。この点に関連して、Millerは機関の責任（responsibility of institution）については本書の検討の射程に含まないと留保を加えている（46）。しかし、機関の行為者性や責任といった概念はDU科学技術めぐる議論において中核をなすものであり、（仮に著者が機関の行為者性を認めないという結論に至ろうとも）本書で詳細な議論に踏み込まれなかったのは残念である。

本書のアプローチで目を引くものとして、DU科学技術に対する規制の根拠として繰り返し「危害゠手段提供禁止原理」が援用されている点にも触れたい。この原理は悪意のある者に危害を加える手段を供給しないことを命じるが、この原理自体は絶対的なものではなく、必要性原則（the principle of necessity）や均衡性原則（the principle of proportionality）を考慮に入れながら適用すべきだとMillerは主張する（14）。つまり、他に代替手段がなく、当該の研究開発によって生み出される利益と悪意のある利用者がもたらす危害の間で釣り合いがとれている場合には、DU研究開発の実施が認められる場合もあるのだ。しかし、Millerも認めているように、これらの評価には大きな不確定性がある。第三章以降でも、必要性原則や均衡性原則を踏まえた「危害゠手段提供禁止原理」の適用のあり方を具体的に示す議論はなく、「危害゠手段提供禁止原理」が個別のDU科学技術の倫理的評価の基盤として十分な耐用性を有するのかという点には疑問が残る。

以上、本書の特徴を批判的コメントとともに述べてきたが、DU科学技術をめぐる理論と各論を備えた本書は、哲学・倫理学的関心からこの問題に行き着いた読者と個別の研究開発領域に身を置く中で倫理的な問題意識を抱くに至った読者双方にとって非常に示唆に富む一冊である。前述のとおり、評者は「危害゠手段提供禁止原理」の耐用性について疑問を呈したが、そもそもDU科学技術の倫理的評価の問題について決定的な解決を求めること自体が無いものねだりかもしれない。Millerが化学産業におけるセキュリティ規制の文脈で、「規制の背景をなす目的はリスクを減らすことであり、リスクを完全に消去することではない。後者は不可能である」（69）と述べるように、DU科学技術の悪用リスクを減じることが肝要であることは間違いない。そのための措置を講じる上で、本書のアイディアが意義ある理論的基盤を提供している点に疑いはないだろう。

本邦では2015年の防衛装備庁による「安全保障技術研究推進制度」の創設を機に軍民両用性としてのデュアルユースの倫理的問題が専門家のみならず多くの市民の耳目を集めている¹。 大学や企業の構成員として科学技術と組織を取り巻く現況に危機感を募らせている読者もいるかもしれない。この書評が、現場から一歩引いた観点からDU科学技術の倫理的問題について考える方途を求める読者にとって一助となれば幸いである。

文献案内

DU科学技術については、科学技術社会論や個別の自然科学分野で盛んに論じられているものの、哲学・倫理学者による著作は非常に限られている。日本語の文献ではないが、DU科学技術の倫理的問題に特化した論文集であるRappert and Selgelid eds. 2013は、理論から実践まで多様な主題を網羅しており、本書を読んで気になったトピックについてさらに学びたいと思う方の助けになるだろう。日本語で読めるDUジレンマの解説としては、四ノ宮・河原 2013が参考になる。軍民両用性としてのデュアルユースを主題とする日本語の文献としては、国内外の状況を概観する小山田 2016や軍事技術と民生技術の関係について概説する西山 2017があるほか、軍民両用研究技術をめぐる主な論点や本邦における議論の興隆の契機となった「安全保障技術研究推進制度」については、池内 2017で非専門家に向けた丁寧な解説がなされている。また、航空宇宙技術の軍民両用性についての概説として神崎 2018がある。本書第八章で引用されている米国科学アカデミーによるBiotechnology Research in an Age of Terrorism（通称「フィンクレポート」）は、科学者コミュニティが主体的にDU研究規制に向けた提言を行った事例であり、その後の規制のあり方に多大な影響を与えた重要資料である。なお、このフィンクレポートの抄訳として齋藤 2010がある。

本書第三章と第四章ではMiller独自の共同行為論とDU科学技術の接続が試みられているが、共同行為論全体の見取り図を得るには古田 2017が、Millerと対立する非個人主義的な行為者性理解については筒井 2014が大いに参考になるだろう。

注

¹安全保障技術研究推進制度に関して、日本学術会議は「研究成果は、時に科学者の意図を離れて軍事目的に転用され、攻撃的な目的のためにも使用されうるため、まずは研究の入り口で研究資金の出所等に関する慎重な判断が求められる」との認識を示している（日本学術会議　安全保障と学術に関する検討委員会 2017）。とはいえ、本制度への応募の可否は各研究機関の判断に委ねられているのが実態である。各研究機関の対応状況については、（2018年2〜3月時点の調査に基づく報告だが）佐藤岩夫 2019が詳しい。2020年6月には、大学共同利用機関法人自然科学研究機構が本制度への不参加を決定したと報じられた（「私たちは防衛省「軍事研究」に参加しません　自然科学機構９組織、国立天文台は一時応募を検討」，『47NEWS』，2020年6月29日付（2020年7月8日最終アクセス）https://this.kiji.is/647990691148153953)。

参考文献

• 古田徹也 2017, 「共同行為の問題圏」, 『現代思想』2017年12月臨時増刊号（vol.45-21）, 青土社, 222–234頁.
• Gilbert, M. 1989, On Social Facts, London: Routledge.
• 池内了2017, 『科学者と軍事研究』, 岩波書店.
• 神崎宣次 2018, 「宇宙開発におけるデュアルユース」, 伊勢田哲治, 神崎宣次, 呉羽真（編）『宇宙倫理学』所収, 昭和堂, 219–221頁.
• Miller, S. and Selgelid, M. 2007, “Ethical and Philosophical Consideration of the Dual Use Dilemma in the Biological Sciences,” Science and Engineering Ethics 13, pp. 523–580.
• Miller, S. 2010, The Moral Foundations of Social Institutions: A Philosophical Study, New York: Cambridge University Press.
• National Research Council. 2004, Biotechnology Research in an Age of Terrorism, Washington, DC: National Academies Press.
• 日本学術会議　安全保障と学術に関する検討委員会 2017, 「軍事的安全保障研究に関する声明」, http://www.scj.go.jp/ja/info/kohyo/pdf/kohyo-23-s243.pdf（2020年7月8日最終アクセス）.
• 西山淳一 2017, 「防衛技術とデュアルユース」,『学術の動向』22-5, 48–55頁.
• 小山田和仁 2016, 「デュアルユース技術の研究開発―海外と日本の現状」,『科学技術コミュニケーション』第19号, 87–103頁.
• Pettit, P. and Schweikard, D. 2006, “Joint Actions and Group Agents,” Philosophy of the Social Sciences 36-1, pp. 18–39.
• Rappert, B. and Selgelid M. J. 2013, On the Dual Uses of Science and Ethics: Principles, Practices, and Prospects, Canberra: ANU Press.
• 齋藤智也 2010, 『テロリズムの時代における生命工学研究』, 慶應義塾大学グローバルセキュリティ研究所.
• 佐藤岩夫 2019, 「日本学術会議「声明」への大学等研究機関の対応状況 ─アンケートの結果から」,『学術の動向』24-6, 78–83頁.
• 四ノ宮成祥, 河原直人（編）2013, 『生命科学とバイオセキュリティ―デュアルユース・ジレンマとその対応』, 東信堂.
• 筒井晴香2014, 「集団はいつ行為者となるか ――P. プティットの議論に見る集団行為者性の関係的性格――」, 『行為論研究』第三号, 85–111頁.

出版元公式ウェブサイト

シュプリンガー

https://www.springer.com/gp/book/9783319926056

評者情報

小林 知恵（こばやし ちえ）

現在、北海道大学大学院文学研究科博士課程在籍、日本学術振興会特別研究員（DC2）、北海道医薬専門学校非常勤講師。主な業績として「表出主義と構成的な道徳的真理」（お茶の水女子大学哲学倫理学研究会編『倫理学研究』第19号、2017年）とサイモン・ブラックバーン著「実在論に声援を、合理主義に喝采を」（北海道大学大学院文学研究科応用倫理研究教育センター編『応用倫理』、8号、2014年）の翻訳がある。専門は、メタ倫理学・研究倫理。