ИИ и «разговоры с животными»: нам — умнее, а им что?

Источник: theguardian.com

В небольшой лодке в заливе Шарк-Бей на западе Австралии я слушаю разговор одних из самых умных существ на планете. Мотор выключен, бирюзовая вода неподвижна, а мы со Стефани Кинг не двигаемся, вслушиваясь в свисты, щелчки, жужжание и скрежещущие звуки дельфинов под лодкой.

Если кто-то и может объяснить, о чём говорят эти крупные социальные млекопитающие, то это Кинг. Она работает в Бристольском университете и вместе с коллегами руководит исследовательским проектом по изучению дельфинов залива Шарк-Бей — одним из самых продолжительных проектов наблюдения за дикими дельфинами в мире. Кинг провела тысячи часов, наблюдая за этой популяцией и слушая её звуки.

Как и многие специалисты по поведению животных, Кинг всё чаще включает ИИ в свой исследовательский процесс. По её словам, при ответственном использовании технология может изменить то, что учёные способны делать с собранными данными. Но когда я спрашиваю, позволит ли ИИ когда-нибудь «говорить на языке дельфинов», она заметно напрягается. Кинг считает, что постановка вопроса таким образом вредит животным.

Что именно изучают учёные

Дельфины в заливе Шарк-Бей общаются, ориентируются и находят пищу с помощью жужжания, щелчков, свистов и других акустических сигналов. Эти звуки записывали подводным микрофоном для подкаста Threshold.

Проблема, по мнению Кинг, не в самом ИИ, а в рассказе, который вокруг него формируется. Исследования всё чаще подают как поиски переводчика животных на основе ИИ. Заголовки объявляют, что учёные почти «раскрыли тайный язык» разных существ или вот-вот «расшифруют речь животных». За прорывы даже предлагают денежные призы. Среди таких инициатив — Coller Dolittle Challenge, участники которого должны создать алгоритм для общения с организмами, не относящимися к человеческому виду.

Кинг признаёт, что тема привлекает внимание, но считает такой подход ошибочным. По её мнению, деньги технологических компаний и интерес СМИ подталкивают исследования в нездоровом направлении: учёные начинают делать преждевременные выводы о результатах работы ИИ и описывать свои проекты сенсационными словами. Желание найти самое захватывающее открытие может искажать представление о том, что на самом деле известно о животных.

Во многих случаях известно пока очень мало. Дельфинов изучают десятилетиями, но значение многих их звуков всё ещё остаётся непонятным. Сам звук, вероятно, имеет для дельфинов другой смысл, чем для человека. Они слышат частоты далеко за пределами нашего диапазона, обрабатывают акустическую информацию быстрее нас, а их сенсорные системы устроены иначе.

И люди, и дельфины могут использовать эхолокацию — ориентироваться с помощью звука. Однако дельфины обрабатывают эхолокационную информацию в участке мозга, связанном с осязанием, тогда как у человека этот процесс сильнее связан со зрением. Поэтому дельфины могут воспринимать подводный мир не как человек, который «видит» звуком, а скорее как существо, которое «слышит-ощущает» или «ощущает-слышит».

Как бы ни выглядел этот опыт, он может быть принципиально недоступен человеку. Подать свисты и щелчки в большую языковую модель недостаточно, чтобы его понять. Кинг считает, что сначала нужно разобраться в сложной системе общения дельфинов — выяснить, что их поведение и сигналы значат для самих дельфинов, — а уже потом думать о попытке вступить с ними в разговор.

Беременная дельфиниха Белла в Six Flags Discovery Kingdom наблюдает, как тренер Адам Гилберт помещает в бассейн гидрофон, чтобы записать её подводные звуки, Вальехо, Калифорния. Было замечено, что Белла, возможно, общается со своим нерождённым детёнышем; она стала объектом нового исследовательского проекта

Источник: theguardian.com

Высокие свисты — важная часть социальной коммуникации дельфинов. С их помощью матери поддерживают контакт с детёнышами, а некоторые свисты служат индивидуальными идентификаторами, похожими на имена.

Исследовательница слонов Джойс Пул согласна с этим подходом. Её раздражает цель научиться разговаривать с животными, и она считает её скорее эффектной затеей. Пул — один из ведущих специалистов по африканским саванным слонам. Десятилетиями она наблюдала за ними в дикой природе и собрала большой архив размеченных полевых записей их звуков, движений и взаимодействий.

Пул уверена, что в коммуникации слонов есть множество уровней и нюансов, которые люди ещё не понимают. Но, как и Кинг, она скептически относится к идее встроить человека в диалоги животных. Для начала, по её мнению, достаточно понять, что слоны говорят и о чём думают. Вмешиваться в их жизнь сильнее необходимого не нужно.

Что может измениться для животных

Пул считает, что более понятное для людей описание внутренней жизни слонов способно изменить отношение к ним. Если показать, что слоны владеют сложной системой общения, люди могут начать больше их уважать и сохранять для них место в мире — вместе с экосистемами и другими обитателями планеты.

Эту надежду разделяют многие. Вероятно, именно поэтому люди охотно открывают материалы с заголовками о том, как ИИ поможет разговаривать с животными. На фоне роста числа вымирающих видов и сокращения биоразнообразия людям хочется услышать хорошие новости. Кроме того, человека всегда завораживали другие животные: истории о том, как люди слушают их и учатся у них, существуют столько же, сколько и человеческая культура.

Технологии во многом отдалили людей от остального живого мира. Поэтому возникает вопрос, может ли новый инструмент помочь лучше настроиться на жизнь других видов и заботиться о планете.

Сезар Родригес-Гаравито, основатель и директор программы More Than Human Life, или Moth, при Нью-Йоркском университете, считает ИИ перспективным способом больше узнать о жизни животных и лучше её понять. Программа занимается исследованиями и обсуждением прав природы. По мнению Родригеса-Гаравито, ИИ может помочь учитывать голос животных в решениях, которые определяют их судьбу.

Исследователи и практики всё чаще спрашивают, как учесть, например, мнение китов при регулировании морской охраняемой территории. Сейчас такая идея может казаться неправдоподобной, но попытки включить голоса животных, не относящихся к человеческому виду, в право и государственную политику уже идут в разных странах. Родригес-Гаравито считает, что это больше не вопрос научной фантастики.

Нам не нужен ИИ, чтобы понять: китам вредят шум, столкновения с судами, климатические изменения и загрязнение. Но если бы люди услышали прямой перевод боли, которую киты испытывают из-за подводных сейсмических испытаний, или их скорби по детёнышу, погибшему после столкновения с судном, это, возможно, сильнее побудило бы их действовать.

Однако говорить о возможной пользе ИИ можно только одновременно с рисками. История использования технологий показывает, что люди не всегда применяют их осторожно. Нельзя просто выпустить ИИ в дикую природу и посмотреть, что произойдёт: возможные последствия нужно продумать заранее.

Угроза может быть намеренной. Инструменты на основе ИИ способны обманывать или принуждать животных, например заманивать их в места, где их проще убить. Джойс Пул предлагает вспомнить охотников за трофеями. Но если прошлое действительно помогает предсказывать будущее, наибольшую опасность создадут не несколько злонамеренных пользователей, а множество людей, которые будут применять технологию, не думая о последствиях или не желая о них заботиться.

Самый тревожный сценарий — когда люди по своему желанию начнут вмешиваться в общение и жизнь животных ради развлечения. Компании, организующие наблюдение за китами, могут использовать ИИ, чтобы приманивать животных к лодкам. Посетители Йеллоустонского национального парка — запускать приложения, заставляющие волков выть, лосей издавать брачные звуки, а бизонов реветь. Это способно утомлять и дезориентировать животных.

Технология не обязана следовать добрым намерениям её создателей. Инструмент, разработанный для повышения уважения к животным, может превратить их в игрушки, которых человек дразнит и которыми управляет.

Взрослый африканский слон и детёныш помладше пересекают грунтовую дорогу во время сафари в Микуми, Танзания

Источник: theguardian.com

Зачем нужны этические правила

Чтобы отвести исследования от таких сценариев, программа Moth недавно опубликовала фреймворк Pepp. Его название образовано от английских слов, обозначающих подготовку, взаимодействие, предотвращение и защиту. Это набор этических рекомендаций для применения технологий коммуникации с животными, не относящимися к человеческому виду.

Пока неясно, будут ли эти рекомендации и каким образом применяться на практике. Родригес-Гаравито связывает проблему с более масштабным отсутствием юридических и этических границ для развития ИИ. Международного соглашения об ИИ пока нет, поэтому сфера развивается почти без общих правил. По его мнению, ситуация была бы менее тревожной, если бы существовали универсальные принципы, определяющие, что с помощью ИИ разрешено делать, а что нет. Пока таких принципов нет, их приходится создавать с нуля, опираясь на опыт других областей права.

Пул документировала, как самки слонов издают перекрывающиеся звуки, когда в их группу приходит самец в период муста, готовый к размножению. Она называет эти звуки «хоровым урчанием самок». В нём могут сочетаться фырканье, трубные звуки, рёв и низкочастотное урчание.

Микки Пардо, старший научный сотрудник ElephantVoices, работающий вместе с Джойс Пул, также видит у инструментов для изучения коммуникации животных с помощью ИИ пользу и риски. Но он считает, что обе стороны могут преувеличивать масштаб будущих последствий.

Даже воспроизведение заранее записанных звуков без ИИ способно вызывать у животных стресс — особенно если исследователи не понимают контекст этих сигналов. Более сложная система на основе ИИ может усилить проблему, но, по мнению Пардо, скорее повысит уже существующий риск, чем создаст совершенно новый.

Он также спрашивает, не слишком ли много внимания уделяется возможному вреду ИИ, тогда как существует множество других способов негативно влиять на жизнь животных, в том числе во время исследований.

Пардо считает обращение с животными в биомедицинской науке намного более жестоким, чем всё, что сейчас делают специалисты по коммуникации животных в полевых условиях. Это не отменяет необходимости заранее обсуждать этические последствия ИИ, но существует опасность потратить слишком много внимания на гипотетическую проблему и продолжить игнорировать множество реальных этических проблем, которые уже происходят.

Такой эффект ИИ — когда технология притягивает внимание и деньги, а люди готовы приписывать ей почти магические способности — тревожит и исследователя морских млекопитающих Люка Ренделла из Университета Сент-Эндрюса. По его мнению, существует представление, будто ИИ обязательно обнаружит то, чего не смогли найти люди. Ренделл считает это своего рода уловкой, создающей необоснованную уверенность.

Он полагает, что шумиха вокруг ИИ далеко опередила науку. Общество убеждают, будто люди уже знают или вот-вот узнают о коммуникации животных намного больше, чем на самом деле.

Например, Earth Species Project пишет на своём сайте, что благодаря ускоряющемуся развитию ИИ и больших языковых моделей расшифровка коммуникации животных больше не вопрос «случится ли это», а вопрос времени. Организация также утверждает, что уже получила подтверждения гипотезы о способности ИИ расшифровывать общие структуры языка у разных видов на всём древе жизни.

Стая обыкновенных дельфинов скользит по носовой волне лодки в проливе Каталина недалеко от Лонг-Бич, Калифорния

Источник: theguardian.com

Почему контекст важнее скорости

Именно такая подача раздражает Ренделла. Как и Кинг, он считает, что поиск «языка» животных несёт в себе человекоцентричное предубеждение. Оно может помешать понять уникальные и чрезвычайно разнообразные способы, которыми разные виды передают информацию.

Ренделл также опасается долгосрочного ущерба для своей области, если машина доктора Дулиттла так и не появится. Исследования коммуникации животных уже не раз привлекали людей, выдававших себя за специалистов. Это приводило к циклам резкого роста и последующего падения финансирования и доверия.

Ренделл пришёл в область изучения коммуникации китообразных в момент, когда она восстанавливалась после 15-летнего «похмелья» от работ Джона Лилли. Лилли пытался обучить дельфинов английскому языку с помощью спорных методов, включая ЛСД. Эти эксперименты принесли ему известность, но в итоге закончились трагической гибелью одного из дельфинов, участвовавших в исследованиях.

Более десяти лет после этого изучение коммуникации дельфинов было поводом для шуток в научных кругах. Затем, по словам Ренделла, за последние 15–20 лет произошёл заметный рост знаний о жизни и коммуникации китообразных. Это вывело всю область на новый уровень научной репутации. Теперь он опасается, что безответственные заявления могут подорвать достигнутый результат.

Кинг считает, что любые выводы ИИ нужно проверять с помощью главных экспертов — самих животных. Подходы ИИ и машинного обучения следует применять вместе с тщательным изучением животных: когда они издают сигналы, в каком контексте это происходит и как они ведут себя в этот момент.

Такая работа требует терпения и аккуратных полевых исследований, которые часто продолжаются годами. Это прямое противопоставление подходу Кремниевой долины «двигайся быстро и ломай всё».

Дельфины воспринимают звуковые волны через нижнюю челюсть, а звуки производят в верхней части головы. Кинг объясняет, как это происходит, пока подводные микрофоны записывают жужжание дельфина, находящегося неподалёку.

Что дают долгие наблюдения

Дни, проведённые с Кинг на воде, состояли главным образом из тихого ожидания и поиска блеска дельфиньих спин на горизонте. Когда животное появлялось, Кинг сразу начинала называть имена — Джуси, Джангл, Пикколо. Сидевшие в лодке стажёры фотографировали дельфинов и делали записи.

Кинг способна узнавать сотни отдельных дельфинов после самого короткого взгляда на их спинной плавник. Этот навык она связывает с бесчисленными часами, проведёнными в заливе Шарк-Бей рядом с животными. Она приезжает туда каждый год и считает эту работу важной частью своей жизни.

Кинг уверена, что присутствие в поле важно и для качественной науки. После возвращения студенты рассматривают фотографии плавников и сопоставляют их со снимками прошлых лет в своём «альбоме дельфинов».

В последнее время некоторые студенты предлагают поручить эту работу ИИ. Так было бы намного быстрее. Но Кинг настаивает на ручной проверке. Если вы действительно хотите понять поведение животных, значение имеют детали. А детали требуют времени — ускорить их изучение нельзя.

Остаётся более общий вопрос: даже если идея носимого переводчика животных кажется захватывающей, нужно ли ждать новой технологии, чтобы внимательнее относиться к другим обитателям планеты? Позволит ли ИИ когда-нибудь разговаривать с животными или нет, ничто не мешает людям уже сейчас слушать их и заботиться об их жизни.

Эми Мартин — основательница и исполнительный продюсер Threshold, документального подкаста, получившего премию Пибоди. Сейчас она пишет свою первую книгу.