Научные исследования вреда цифровых технологий застряли в «цикле неудач», который развивается слишком медленно, чтобы позволить правительствам и обществу привлекать технологические компании к ответственности, утверждают два ведущих исследователя в новом отчете, опубликованном в журнале Science.

Доктор Эми Орбен из Кембриджского университета и доктор Дж. Натан Матиас из Корнелльского университета утверждают, что темпы, с которыми новые технологии внедряются среди миллиардов людей, оказывают невыносимую нагрузку на научные системы, пытающиеся оценить их воздействие.

Они утверждают, что крупные технологические компании эффективно передают исследования безопасности своей продукции на аутсорсинг независимым учёным в университетах и ​​благотворительных организациях, которые работают с долей ресурсов, в то время как фирмы также препятствуют доступу к важным данным и информации. Это контрастирует с другими отраслями, где тестирование безопасности в основном проводится «внутри компании».

Орбен и Матиас призывают к пересмотру «предоставления доказательств», оценивая воздействие технологий на все: от психического здоровья до дискриминации.

Их рекомендации включают ускорение процесса исследований, чтобы политические меры и более безопасные конструкции тестировались параллельно со сбором первоначальных доказательств, а также создание реестров вреда, связанного с технологиями, на основе информации от общественности.

«Крупные технологические компании все чаще действуют с кажущейся безнаказанностью, в то время как доверие к их заботе об общественной безопасности ослабевает», — сказал Орбен из отдела когнитивных и мозговых наук Кембриджского исследовательского центра MRC. «Политики и общественность обращаются к независимым учёным как к арбитрам безопасности технологий.

«Такие учёные, как мы, преданы общественному благу, но нас просят призвать к ответу многомиллиардную индустрию без соответствующей поддержки наших исследований или базовых инструментов для быстрого получения качественных доказательств. Мы должны срочно исправить эту научную и политическую экосистему, чтобы мы могли лучше понимать и управлять потенциальными рисками, создаваемыми нашим развивающимся цифровым обществом».

«Цикл отрицательной обратной связи»

В статье Science исследователи отмечают, что технологические компании часто следуют политике быстрого развёртывания продуктов сначала, а затем ищут пути «отладки» потенциального вреда. Это включает в себя распространение генеративных продуктов ИИ среди миллионов до завершения базовых тестов безопасности, например.

Когда перед исследователями ставится задача понять потенциальный вред новых технологий, они полагаются на «рутинную науку», которая, десятилетиями являясь движущей силой общественного прогресса, теперь отстает от темпов технологических изменений до такой степени, что порой становится «непригодной для использования».

Поскольку многие граждане оказывают давление на политиков, требуя принятия мер по обеспечению цифровой безопасности, Орбен и Матиас утверждают, что технологические компании используют медленный темп развития науки и отсутствие убедительных доказательств, чтобы противостоять политическому вмешательству и «минимизировать свою собственную ответственность».

Они отмечают, что даже если исследования получат необходимое финансирование, исследователям придётся изучать продукты, которые развиваются с беспрецедентной скоростью.

«Технологические продукты меняются ежедневно или еженедельно и адаптируются к индивидуальным особенностям. Даже сотрудники компании могут не до конца понимать продукт в какой-то момент времени, а научные исследования могут устареть к моменту их завершения, не говоря уже о публикации», — сказал Матиас, возглавляющий лабораторию граждан и технологий (CAT) Корнелла.

«В то же время заявления о неадекватности науки могут стать источником задержки в обеспечении безопасности технологий, когда наука играет роль привратника политических вмешательств. Так же, как нефтяная и химическая промышленность использовали медленный темп науки, чтобы отвлечь внимание от доказательств, свидетельствующих об ответственности, руководители технологических компаний следовали аналогичной схеме. Некоторые даже якобы отказались выделять значительные ресурсы на исследования безопасности без определенных видов причинно-следственных доказательств, которые они также отказываются финансировать».

Исследователи излагают текущий «цикл отрицательной обратной связи», объясняя, что технологические компании не выделяют адекватных ресурсов на исследования безопасности, перекладывая бремя на независимых учёных, у которых нет данных и финансирования. Это означает, что высококачественные причинно-следственные доказательства не предоставляются в требуемые сроки, что ослабляет способность правительства регулировать — ещё больше дестимулируя исследования безопасности, поскольку компании освобождаются от ответственности.

Орбен и Матиас утверждают, что этот цикл необходимо перестроить, и предлагают способы сделать это.

Сообщение о цифровом вреде

Чтобы ускорить выявление вреда, причиненного онлайн-технологиями, политики или гражданское общество могли бы создать реестры для сообщений об инцидентах и ​​поощрять общественность предоставлять доказательства в случае причинения им вреда.

Аналогичные методы уже используются в таких областях, как экологическая токсикология, где общественность сообщает о загрязненных водных путях, или в программах отчетности о дорожно-транспортных происшествиях, которые информируют о безопасности автомобилей.

«Мы ничего не выигрываем, когда людям говорят не доверять своему жизненному опыту из-за отсутствия доказательств, когда эти доказательства не собираются», — сказал Матиас.

Существующие реестры — от записей о смертности до баз данных о домашнем насилии — также можно было бы расширить, включив в них информацию об использовании цифровых технологий, таких как ИИ.

Авторы статьи также описывают систему «минимальных убедительных доказательств», в которой политики и исследователи корректируют «порог доказательств», необходимый для демонстрации потенциального технологического вреда, прежде чем приступать к тестированию вмешательств.

Эти пороговые значения доказательств могли бы быть установлены комиссиями, состоящими из представителей затронутых сообществ, общественности или «научных судов» — групп экспертов, созданных для проведения быстрой оценки.

«Прежде чем разработчикам и учёным разрешат тестировать меры по созданию более безопасного цифрового общества, часто требуются доказательства причинно-следственной связи технологического вреда», — сказал Орбен.

«Тем не менее, тестирование вмешательства можно использовать для определения способов помощи отдельным людям и обществу, а также для выявления потенциального вреда в этом процессе. Нам необходимо перейти от последовательной системы к гибкой, параллельной».

В рамках системы минимального объёма доказательств, если компания препятствует проведению независимых исследований или не поддерживает их, а также не обеспечивает прозрачности в отношении собственных внутренних испытаний безопасности , объём доказательств, необходимых для начала тестирования потенциальных вмешательств, будет уменьшен.

Орбен и Матиас также предлагают извлечь уроки из успеха «зеленой химии», в рамках которой независимый орган ведёт списки химических продуктов, ранжированных по степени потенциальной опасности, чтобы стимулировать рынки к разработке более безопасных альтернатив.

«Научные методы и ресурсы, которыми мы располагаем для создания доказательств в настоящий момент, просто не могут справиться с темпами развития цифровых технологий», — сказал Орбен. «Ученые и политики должны признать недостатки этой системы и помочь создать лучшую, прежде чем эпоха ИИ ещё больше подвергнет общество рискам неконтролируемых технологических изменений».

Матиас добавил: «Когда наука о влиянии новых технологий развивается слишком медленно, проигрывают все».

Мастер пера, обрабатывает новостную ленту.