Новые технологии и этика

В XX веке, когда одни ученые страстно увлеклись идеями автоматизации и робототехники, другие стали думать о возможных рисках высоких технологий и разрабатывать прогнозы и векторы их развития. Так появились «принцип предосторожности» Ганса Йонаса и «закон Амары»

Принцип предосторожности

Это этический принцип оценки новых технологий. Если инновации могут нанести ущерб природе и человечеству, бремя доказательства их безопасности ложится на создателей технологии. Критики этого принципа утверждают, что он расплывчат, ненаучен и является препятствием для прогресса.

В философии принцип предосторожности был провозглашен американским философом Гансом Йонасом в 1979 году: действовать так, чтобы «не ставить под угрозу условия для бесконечного продолжения человечества на Земле». Он теперь во всех международных программах развития. Да и в обычной жизни большинство из нас пристегивают ремни безопасности и покупают страховки.

Основных версий принципа две. Сильная требует реагировать при одном лишь подозрении на возможный ущерб, так в ЕС регулируют использование ГМО. А слабая версия предполагает, что превентивные меры должны применяться лишь при наличии доказательств возможного вреда. Так в США относятся к новым медицинским препаратам, считая, что чрезмерная осторожность может сама по себе создавать новые риски из-за бездействия перед лицом новых угроз.

Закон Амары

Наблюдение о том, что мы склонны переоценивать эффект новых технологий прямо завтра и недооценивать их влияние в отдаленном будущем, называют «законом Амары». Рой Амара был футурологом, создателем Института будущего в Пало-Альто в Калифорнии, больше занимался практикой предвидения в технологиях, чем наукой.

В 1952 году Банк Америки заказал специалистам Стэнфордского института, где работал Амара, автоматизированную систему управления чековыми операциями. Впоследствии эта технология привела к появлению кредитных карт, привязанных к личным счетам клиентов. А прототип суперкомпьютера, сделанный в Стэнфорде, автоматически обрабатывал без малого миллиард чеков в год, весил 25 тонн и потреблял 80 киловатт энергии.

В 50-е годы машинный интеллект, пионером которого был Алан Тьюринг, переживал астрономический взлет, но позже наступила так называемая зима искусственного интеллекта. А нынешний подъем финансирования и новых надежд начался только в 2010-е годы.

Другой пример: интернет с сумасшедшими вложениями в 90-е годы и лопнувшим пузырем доткомов в 2000-м. Или генная инженерия, от которой после открытия CRISPR в 2012-м ожидали немедленного излечения генетических болезней, но и сейчас еще только подступают к решению этой проблемы.

Предвидеть будущее, даже погоду, практически неосуществимо. Но без прогнозов невозможно планирование. Экономические циклы Кондратьева длиной в 60 лет, закон Мура об удвоении плотности транзисторов на плате, закон Меткалфа о ценности сети, которая пропорциональна квадрату числа пользователей, — все это действует. Конечно, в этих наблюдениях, как и в законе Амары, нет точности небесной механики, но они все же позволяют делать предположения на пару десятков лет вперед, которые имеют шанс не полностью разойтись с действительностью.