В прошлом году 193 государства-члена дали мандат ЮНЕСКО для разработки первого глобального нормативного документа об этических аспектах искусственного интеллекта, в виде рекомендаций. У ЮНЕСКО уже накоплен опыт в сфере этики науки и технологий, в том числе через работу консультативных органов, таких как Всемирная комиссия по этике научных исследований и технологий, и в процессе подготовки Рекомендаций [об этических аспектах искусственного интеллекта] ЮНЕСКО задействовала 24 ведущих эксперта в различных областях знаний всех регионов мира. Проведены масштабные глобальные и региональные консультации, были получены более 50 тысяч комментариев. Теперь у нас есть первый проект Рекомендаций, который уже был направлен государствам для комментариев.
В следующем году запланированы межгосударственные переговоры по обновленному тексту, и мы надеемся, что он будет в итоге принят. Данный документ представляет собой полноценную основу для того, чтобы направить область искусственного интеллекта в сторону положительных результатов для человека, для общества, для человечества в целом и для окружающей среды, на что мы тоже делаем упор.
Это позволит максимально уменьшить те риски и негативные последствия, которые могут возникнуть. Для этого выработана система взаимосвязанных ценностей, принципов и, что самое важное, конкретных действий. На недавнем «Парижском форуме мира» один из ведущих ученых в области искусственного интеллекта Стюарт Рассел уже похвалил ЮНЕСКО за эту практическую применимость некоторых положений.
Людмила Благонравова: Вы уже упомянули, что технологии помогают бороться с пандемией, но вместе с тем, в ЮНЕСКО говорят, что на фоне пандемии мог увеличиться риск неэтичного использования искусственного интеллекта. Что это означает? Можете привести примеры?
Максим Карлюк: Я бы тут выделил как минимум два момента. Во-первых, на фоне пандемии мы видим беспрецедентную скорость цифровизации во всех сферах: работа, учеба, бизнес, онлайн-шоппинг и т.д. Число людей, которые работали дистанционно, до пандемии составляло 5-7%, а сейчас их 40-50%. И это повсеместно: Евросоюз, США, Филиппины, Малайзия.
В бизнесе, например, в Африке некоторые платформы электронной розничной торговли выросли на трехзначные цифры. Эти примеры означают то, что риски технологий искусственного интеллекта, о которых я говорил, на самом деле были известны еще до пандемии. Они возникают из-за злоупотребления технологиями, их некорректной разработки или использования так называемых «предвзятых данных». Ускорение цифровизации приводит к ускоренному распространению рисков и проблем.
Например, недавно был случай в Великобритании, когда алгоритмы использовались для выставления окончательных оценок ученикам после того, как экзамены были формально отменены из-за пандемии. Такое оценивание привело к значительно более низким результатам, чем ожидали даже учителя, особенно у учеников из бедных семей. А финальные оценки в Великобритании имеют большое влияние на то, в какие вузы поступят ученики, что приведет к серьезным последствиям для их будущего. Это сразу же привело к протестам и требованиям объяснить, как алгоритмы работают, как они пришли к таким выводам. В итоге эти результаты отменили.
Я бы еще второй момент отметил: эти же технологии используются непосредственно для борьбы с пандемией. Часто это делается без существенной оценки рисков и этичности того или иного подхода. Отсутствуют руководства по поводу того, как оценивать точность и действенность инструментов, что может привести к постановке неправильного диагноза и т.д.
Литовская армия опровергает сообщения белорусских властей об атаке беспилотников из Литвы, называя их дезинформацией.
ПодробнееПосле обнаружения четверг утром в Йонаве взрывного устройства у железнодорожного моста было приостановлено движение, во второй половине дня объект был уничтожен и движение
Подробнее