科技メモ

テクノロジーと人間について、取材の備忘録とか思ったこととか

科学には解けない問題

 去年、中国の研究者らが、ヒト受精卵にゲノム編集を施したことが話題になった。その時にNatureにジャーナリストが書いた記事を去年訳したのが出てきたので、以下に貼り付けた。なお、元記事のタイトルにある「CRISPR」は「CRISPR/Cas9」システムに代表されるゲノム編集を意味している。

 元の記事は、CRISPR: Science can't solve it

科学には解けない問題

ゲノム編集と人工知能(AI)のメリットとリスクを考えるのは、政治的な取り組みであって、アカデミックな取り組みではないとDaniel Sarewitsは言う。

今年に入って、著名な研究者らがゲノム編集技術のリスクについて警鐘を鳴らしてきた。ゲノム編集は人や他の種の遺伝子を操作する技術だが、”次世代への予測できない影響”と”自然との関わりにおける深刻な影響”が懸念されている。

同様の懸念は、IT界隈でも起きている。昨年、物理学者のスティーブン・ホーキングは、急速に進歩したAIは人類を滅ぼすと警告をした。また、2013年には王立協会の前会長のMartin Reesが英ケンブリッジ大学にリスク研究のためのセンターを設立したが、ここでは高度なAIの脅威の研究も行うという。

科学者コミュニティのリーダーたちは、これらの強力なテクノロジーへの責任ある対応を、publicと共有していこうとしている。昨年、米ハーバード大学の遺伝学者であるGeroge Churchとその仲間たちは、ゲノム編集について「この技術を活用する時期と場所、目的は私たちみんなで決めるものだ」と表明した。

だが、その一方で科学者たちは自分たちでコントロールしたいとも考えている。例えば、米国立アカデミーは、”ヒトのゲノム編集に関連する、科学的、倫理的そして政治的な問題を探索するために”研究者やほかの専門家を年内に招集することで”意思決定を誘導する”としている。科学者はまた、”将来のpublicとの対話によく周知する”ために、リスクとメリットについてより研究が必要だと強調する。例えば、AIのポジティブな側面を強調し、その潜在的な危険を回避する方法を学ぶ必要があるとの公開文書に、ここ数ヶ月間で数百人の科学者と技術者がオンラインで署名している。

■誰が何を評価するのか

これら先端テクノロジーのリスク、メリットそして倫理的課題が専門家によって決められるという考え方は誤っているし、無駄と自滅に向かうばかりだ。テクノロジーが持つリスクに関するpublicな議論における科学の本来の役割を見誤り、科学の持つ民主的な力と民主的な熟議の可能性を全くもって過小評価している。社会における科学を他人任せにして政治的にしてしまうだけだ。

私たちはこれまでも、遺伝子組み換え食品、原子力、化学物質毒性そしてがんのスクリーニング検査の効果について、それぞれ果てしない議論をしてきた。科学は、これらを規制したりリスク論争を解決したりしてこなかった。

科学的な観点から、この複雑な問題に取り組む方法はない。新しいテクノロジーが複雑な社会システムの中に導入されるとき、誰もがそのリスクについて知らされてはいない。考え方が異なる団体が異なった見解をそれぞれで繰り広げるだけだ。もっともらしいことを言う専門家は、相反する考え方のいずれかを支持するために利用される。

例えば、農業経済学者(収穫量に関心がある)と生態学者(生態系に関心がある)は、自身の主張のために異なる科学的根拠を持ってくるだろう。遺伝子組み換え食品の影響の研究では、両者はおそらく全く異なった評価をするだろう。同じ農業経済学者の間でさえも、天候や土壌のような条件をコントロールしやすい実験系を好む研究者もいれば、現実世界の多様性に基づいた実際の農場を好む研究者もいる。これらの研究結果が矛盾することもあるだろう。

その上、ヨーロッパの消費者の多くは、収穫量の研究には関心がない。彼らは企業がその作物の品種、見た目、種類を決めた背景と選択性、透明性に関心がある。そのため、わかっている健康上のリスクがないとしても、遺伝子組み換え食品のラベル表示がされることになる。

つまり、リスクとはテクノロジーの問題というよりも、政治的であり文化的なものなのだ。科学者のほか倫理学者や社会学者といった専門家が、その枠組みを調整することもまた同様に政治的であり文化的である。

科学者は選挙で選ばれるわけではない。彼らは文化的価値、政治、市民の関心を代表することはできない。彼らの価値観は、ほかの人生を歩んでいる人々と大きく異なっているかもしれない。例えば、ナノテクノロジーの社会的影響に関する2007年の研究では、ナノテクノロジーの研究者たちはこのテクノロジーが労働者の仕事を奪うといったことにはほとんど関心を払っていなかったが、一般の人たちは非常に懸念していた。双方ともに合理的だった。研究者が、テクノロジーによって新たな機会がつくり出されると楽観的になるのはもっともなことだ。一方、一般の人たちが、それによって労働環境に混乱をもたらすと心配するのもまたもっともだ。

リスクの問題を民主的な議論の場へ開くことは、科学にとってもイノベーションにとってもよい効果をもたらす。物理学者のアルビン・ワインバーグ原子力推進派だが、1970年代にすでにそのことに気付いていた。ワインバーグは、”誇張や歪曲をもたらす懸念がある、原子炉事故の発生確率のような問題”に関するpublicな議論に注意を払っていた。だが、彼はまた米国におけるpublicの圧力は、”一般の人たちが科学技術の議論に参加をする”権利を持たないソ連と比べて、はるかに原発の安全性につながっていることもまた指摘している。

異なる文化や政治のもとでは、リスクの選択や管理の在り方もまた、異なったアプローチがとられる。原子力発電を拒否したドイツは、再生可能エネルギー技術の実証をしつつある。一方で、その隣国のフランスでは原子力発電は低炭素エネルギーシステムに取って代わりうることを示している。欧州委員会の前科学顧問のアン・グローバーは、遺伝子組み換え食品への反発を”狂気の形”とした。だが、それは大規模有機農業の要求、害虫対策、抗生物質利用の削減、牛肉消費量に対する広範な消費者運動のごく一部にすぎない。このようなことは、世界的な食料システムの多様性とレジリエンスをもたらすイノベーションへの道筋を開く。

これらのまさに今起こっている議論が示しているのは、 テクノロジーが持つリスクをコントロールしようとする科学者コミュニティの試みはうまくいかないということだ。むしろ、科学の正当性を損なわせている。

論争的なテクノロジー分野が新たに現れたとき、このような状況から抜け出すには、民主的な対話によってそれぞれの価値や世界観を守りながら取捨選択を決めていくしかない。

■World wide views(世界市民会議)

publicな対話が必要とされているときのひとつを見てみよう。複雑なジレンマの技術的側面について学び、対話する人々の能力は、ここ数十年で社会学者たちによって記述されてきた。

このような対話のひとつのモデルが、デンマーク技術委員会が主宰し、世界規模で行われるWorld Wide Views(WWV)だ。2009年から、WWVは世界中の多数の場所でそれぞれ100人の市民グループを集めて議論の場を作ってきた。テーマは、地球温暖化生物多様性、そして先月実施された気候とエネルギーだ。社会のあらゆる階層の何千人もの人々が参加をした(ワシントンDCで生物多様性を議論した人々は、ホームレスから屋根職人、物理学者まで含まれていた)。

WWVは、丸一日かけて世界中で開催される。参加者には同じ資料と動画が提供され、議論のテーマについて情報を得る。4〜5の時間帯に分けられ、参加者は5〜8人ごとにグループをつくり、それぞれのテーマについて議論し、関連する政策で示される選択肢に投票をする。政策への実際の影響を評価するのは時期尚早だが、WWVは世界規模の複雑な問題に対する代表制による対規模な対話の実現性を実証している。

制度的なモデルも新たに出てきており、人間の存在の本質に影響をあたえるような研究(”存在の科学”と呼ばれるかもしれないもの)を一般の人たちが直接選択するようなものもそこに含まれる。例えば米国では、米航空宇宙局(NASA)は昨年、ECASTネットワークに委託して、小惑星の検出、緩和、復旧のためのオプションを一般の人たちが議論する場をつくった。その結果は、政府の意思決定のために情報提供された。

”存在の科学”がわかっているなら、それについて意思決定をする。WWVタイプの対話では、どんな問題が受け入れられどんな問題が受け入れられないか判別することができるだろう。また、研究のための適切なガバナンスの枠組みの問題に対応できる。さらに、現在進行形で不確実性のある研究の異なるものや、リスクとメリットについての意見の相違の優先順位にも対応できる。

この種の議論は、切れ目なく行い続け、専門家たちの境界条件を設定する必要がある。地理的・人口動態的に分散した条件での本当に対話的なプロセスによって、地域や文化が異なることでいかにしてリスクが選択され優先されていくのかといったバリエーションが明らかになる。価値観やガバナンス体制、研究課題は、そのような知見に応じて共に進めていくことができる。民主主義と科学はともにあるほうが良い。