Нет ничего более постоянного, чем непредвиденное (Поль Валери)

О научных разработках двойного назначения


Моника Уитти из университета Лестера — киберпсихолог: в частности, она занимается исследованиями сетевых романов и измен. В новом исследовании, опубликованном в среду, Уитти изучила жертв романтического онлайн-мошенничества, когда «возлюбленный» или «возлюбленная», с которыми вы познакомились в сети, просит у вас денег на решение каких-то срочных проблем, после чего исчезает.

Уитти выяснила, что среднестатистическая жертва такого мошенничества — женщина средних лет с хорошим образованием, достаточно импульсивная, не очень добрая, но при этом вызывающая доверие. Сама Уитти пишет, что эти данные «можно использовать при разработке программ профилактики (такого рода преступлений) и повышения уровня осведомленности».

Однако автор блога Neuroskeptic в журнале Discover задается вопросом: не поможет ли это исследование самим мошенникам? По идее, если автору удалось качественно и точно описать типичных жертв романтического онлайн-мошенничества, этот психологический портрет должен быть крайне полезен тем, кто ищет таких жертв. И, с другой стороны, если исследование бесполезно для мошенников, может ли оно тогда помочь бороться с ними?

Двойное назначение

Такие «обоюдоострые» научные разработки, которые в недобросовестных руках могут нанести вред, обычно называют Dual Use Research of Concern (DURC), или исследования двойного назначения. В первую очередь, конечно, это военные и околовоенные разработки — всё, что можно использовать как оружие. К примеру, вы придумали, как с помощью модной технологии генного драйва (gene drive) вывести комаров, не переносящих малярию, и победить таким образом инфекцию, а следующий «пользователь» этой интересной технологии, скажем, предпочтет сделать всех пчел на территории вероятного противника стерильными.

Сейчас в этом контексте все обычно думают про подпольные террористические организации или какую-нибудь Северную Корею, но вообще-то вторым назначением вполне могут интересоваться и «благопристойные» государства. Тот самый «агент оранж», инструмент жестокой экологической войны США против Вьетнама, когда-то был безобидной диссертацией ботаника Артура Гэлстона, который испытывал соединения для ускоренного роста и цветения растений. Во времена Гэлстона научно-террористическая паранойя была не такой сильной, и сам он даже не подумал о военных перспективах своих разработок. Впоследствии Гэлстон активно выступал за полное запрещение «агента оранж», но, к сожалению, зубную пасту в тюбик не вернуть.

Мораторий на грипп


Изображение вириона вируса гриппа H5N1
на просвечивающем электронном микроскопе.
Фото: Cynthia Goldsmith, Jackie Katz /
Wikimedia Commons / Public Domain

В последние годы об аббревиатуре DURC чаще всего вспоминают в связи с двумя громкими исследованиями гриппа: авторы статей в Science и Nature, группы Рона Фуше и Йосихиро Каваоки, пытались понять, можно ли сделать так, чтобы смертельно опасный вирус птичьего гриппа H5N1 лучше передавался от млекопитающего к млекопитающему — в случае с их экспериментами от хорька к хорьку, но где хорек, там и до человека разумного недолго.

ВОЗ говорит, что H5N1 и так убивает 60% людей, которые им заражаются, но, к счастью для всех, он плохо передается от птиц человеку (и еще хуже между людьми). Ученые переживали, что естественные мутации могут облегчить передачу вируса, и пытались определить, какие именно мутации могут к этому привести, чтобы вовремя их обнаружить и подготовиться. В общем, было бы странно, если бы успешное исследование по искусственному повышению вирулентности вируса не привело — сюрприз — к повышению вирулентности, поэтому научной работой заинтересовались не на шутку.

Фуше, Каваока и их коллеги в 2011—2012 годах даже устанавливали добровольный мораторий на любые работы такого рода, пока ученые и политики разбирались с тем, можно ли публиковать такие статьи, и если да, то как, в каком объеме и как регулировать доступ к ним. До сих пор именно исследования гриппа считаются наиболее ярким примером DURC, тем более что сами ученые никак не успокоятся: то воссоздадут убившую 50 с лишним миллионов человек «испанку» 1918 года, то покажут, как мутирует еще более опасный H7N9, чтобы лучше передаваться от человека к человеку.

Не все йогурты одинаково полезны

Кроме игр с гриппом, возможно, один из самых известных примеров научных данных, которые можно применить не по назначению, и конфликта вокруг них — история с «молокозаводом массового поражения».

Авторы одного исследования 2005 года проанализировали цепочку поставок молочных продуктов в Штатах и в том числе показали, что всего четыре грамма ботулотоксина, грамотно распыленного на одном молокозаводе, могут убить 400 тысяч человек. Правительство США в лице Департамента здравоохранения от удивления даже попросило журнал не публиковать статью с рецептом убийства половины миллиона человек (где к тому же подробно разбирались уязвимости в цепочке поставок). Но в Proceedings of the National Academy of Sciences — на минуточку, главном журнале американской академии наук — решили, что свобода слова и научных исследований важнее, чем опасения государственных органов.

Визуализация структуры молекулы ботулотоксина.
Изображение: Wikimedia Commons / Public Domain

Иногда двойное назначение у исследования возникает в прямом смысле случайно: австралийские ученые в 2001 году решили использовать модифицированный вирус эктромелии, мышиной оспы, чтобы сделать из него так называемую контрацептивную вакцину и контролировать размножение мышей в дикой природе.

Модифицированный вирус внезапно оказался намного вирулентнее «дикого», то есть быстрее передавался от животного к животному, перебил всех мышей в эксперименте (хотя обычный вирус вызывал у них только мягкие симптомы болезни) и даже преодолел естественный иммунитет уже переболевших мышей к мышиной оспе.

Авторы статьи про молокозавод считали, что, указав на потенциальные угрозы, они помогают их ликвидировать. Похожими соображениями руководствуются, кстати, и американские, и британские журналисты, которые любят обнаруживать на заброшенных складах оспу, лихорадку денге и пятнистую лихорадку Скалистых гор и заказывать по обычной почте геном той же оспы. Каждая такая история производит фурор, но память у человечества короткая, и никто не может точно сказать, действительно ли обнаруженные лазейки закрыты или же ждут только биотеррориста с хорошим воображением.

Психология о двух концах

Пока психологические исследования редко относят к работам двойного назначения — речь все больше идет о ядерной физике или синтетической биологии. Но вполне можно представить, как информацию, которую получают психологи, можно использовать в не совсем благородных целях.

Например, в недавней работе специалисты по машинному обучению выяснили, что, если нейронные сети «тренировать» на корпусе реальных текстов, они перенимают от авторов даже плохо осознаваемые стереотипы. Кто мешает разработчикам внешне «беспристрастных» алгоритмов, которые берут на себя все больше и больше заданий, эксплуатировать эту их особенность?

А вот еще исследование, авторы которого убедительно показали, что сувенирная продукция, бесплатная еда и прочие бонусы врачам от фармкомпаний действительно оказывают влияние на то, какие лекарства выписывает врач. Любая фармкомпания, прочитав об этом, с новыми силами, естественно, бросится противодействовать запретам на такие подарки, а там, где отстоять свое не удалось, — искать другие инструменты воздействия на врачей.

Как отмечает Neuroskeptic, мошенники-скаммеры вряд ли зачитываются рецензируемыми научными журналами по психологии, но это не значит, что они не интересуют никого, кроме самих ученых. Несколько лет назад крупнейшей социальной сети мира, Facebook, уже пришлось извиниться перед своими пользователями за эксперимент по манипулированию их эмоциональным состоянием (естественно, втайне от пользователей) — чем не двойное назначение психологии?