Искусственный интеллект и машинное обучение могут внести свой вклад в решение некоторых из самых трудноразрешимых проблем нашего времени. Примеры включают изменение климата и пандемии. Но они также способны причинить вред. И если они не используются должным образом, они могут увековечить историческую несправедливость и структурное неравенство.
Чтобы уменьшить их потенциальный вред, миру нужны структуры для управления данными, которые обеспечивают экономическую эффективность и защищают права.
Искусственный интеллект и машинное обучение работают на основе массивных наборов данных, из которых программируются алгоритмы для распознавания закономерностей. Эти шаблоны можно использовать для вывода новых идей, а также для прогнозирования поведения и результатов. Все чаще искусственный интеллект и машинное обучение используются для замены человеческих решений автоматизированным принятием решений от имени людей. Часто это происходит в сферах, которые могут существенно повлиять на жизнь людей. Например, получить доступ к кредитам или даже доступ в страну .
Тем не менее, все это происходит в черном ящике, к которому может не иметь доступа даже разработчик алгоритма, поэтому важно решить, что именно входит в этот ящик.
Самые большие наборы данных и алгоритмическая активность генерируются глобальными социальными сетями, которые отслеживают каждое наше действие в Интернете. Эти наборы данных можно использовать для прогнозирования и формирования наших потребностей и желаний.
Крупные технологические компании, многосторонние агентства и банки в значительной степени использовали потенциал искусственного интеллекта для ускорения экономического роста и национального развития. И они все чаще используются в социальных и экономических приложениях, а также в процессе принятия государственных решений, планирования и распределения ресурсов. К ним относятся вынесение судебных решений, отбор кандидатов на работу и направление ученых в системы школьного образования.
Пандемия COVID-19 также подчеркнула огромную ценность общедоступных данных и потенциальную ценность объединения общедоступных и частных данных для преодоления кризисов общественного здравоохранения и стихийных бедствий.
Тем не менее, растет беспокойство по поводу неравномерного распределения возможностей и вреда, связанного с искусственным интеллектом.
Угрозы
Все более широкое использование искусственного интеллекта и машинного обучения при принятии государственных решений поднимает важные вопросы, касающиеся справедливости и прав человека.
В частности, красным флажком является то, как производятся цифровые данные . В наборах данных есть огромные пробелы. Некоторые люди становятся видимыми и подвергаются дискриминации в результате того, как собираются данные. Тот факт, что большая часть населения мира не подключена к Интернету и глобальным социальным сетям, которые стимулируют новую экономику, основанную на данных, означает, что их просто не существует.
В глобальном масштабе искусственный интеллект также представляет опасность для прогресса в достижении гендерного равенства . Существует множество историй о том, что системы искусственного интеллекта настроены против женщин и гендерных меньшинств.
Более того, системы искусственного интеллекта могут полагаться на предположения и данные, исключающие или искажающие группы, которые уже сталкиваются с множественными и пересекающимися формами дискриминации. Это часто приводит к результатам, которые отражают и усиливают гендерное, расовое и эйблистское неравенство и предубеждения .
Эти системы не подлежат адекватной подотчетности и регулированию, необходимым для снижения рисков, которые они представляют для общества.
Эта угроза настолько значительна, что появилось несколько международных форумов , приверженных развитию « хорошего », « этичного » и «ответственного» искусственного интеллекта.
Но большинство инициатив представляют собой технические решения социальных и политических проблем. Это означает, что они разрабатываются вне рамок прав человека. Они также в значительной степени являются инициативами глобального Севера с ограниченным участием многих заинтересованных сторон из глобального Юга.
Правильный подход
Существуют основанные на правах структуры данных, которые используются для разработки искусственного интеллекта. К ним относятся Общие правила защиты данных Европейского Союза . Но они, как правило, сосредотачиваются в первую очередь на первом поколении или основных правах, таких как конфиденциальность. Конфиденциальность широко понимается как индивидуальное право. Это не всегда может быть главной ценностью в более коммунитарно-центрированных обществах.
Пандемия COVID-19 высветила необходимость регулирования данных в общих интересах или общем благе. Это не означает, что нужно отказываться от права на неприкосновенность частной жизни .
Коллективный интерес также относится к управлению данными в контексте идентифицируемых групп или сообществ, где потенциальные последствия индивидуальной идентификации приводят к раскрытию коллективной идентичности.
Литература и практика управления данными в основном рассматривались с этой негативной регуляторной точки зрения. Другими словами, с упором на соблюдение требований к защите данных и кибербезопасности и штрафах за нарушения.
Это необходимое условие как раз для искусственного интеллекта . Но этого недостаточно. Есть много областей управления данными, которые требуют позитивного вмешательства. Примеры включают предоставление доступа к данным, их удобство использования и целостность, если они предназначены для решения вопросов интеграции, равенства, возмещения ущерба и социальной справедливости.
Это вопросы, которые можно понимать как второе и третье поколения, социальные и экономические права.
AI, уважающий права человека
Для решения этих проблем на полях Саммита за демократию запускается новый глобальный проект .
Саммит представляет собой международный форум по авансовым обязательствам в поддержке демократии и прав человека. Его цель – оценить прогресс, достигнутый странами в развитии искусственного интеллекта, уважающего права человека и демократические ценности.
Проект известен как Глобальный индекс ответственного ИИ. Его возглавляют Африканский цифровой аналитический центр Research ICT Africa и независимая сеть Data 4 Development .
Правительства и международное сообщество начали откликаться на глобальный призыв к ответственному искусственному интеллекту. В 2019 году 42 страны подписали принципы ОЭСР, касающиеся надежного ИИ. Это обязывает их обеспечивать безопасность, справедливость и надежность систем ИИ.
Совсем недавно ЮНЕСКО разработала Рекомендацию по этике в области искусственного интеллекта, которая была принята на 41-й Генеральной ассамблее. Рекомендация сосредоточена на защите основных прав и свобод, экологической устойчивости и разнообразии.
Глобальный индекс удовлетворяет потребность во всеобъемлющем, измеримом стандарте, который дополняет быстро развивающееся понимание того, что означает ответственный искусственный интеллект на практике. Он также поощряет и отслеживает внедрение принципов управления соответствующими участниками.
Глобальный индекс будет отслеживать внедрение принципов ответственного ИИ в более чем 120 странах. Будет создана международная сеть независимых исследователей для оценки степени применения принципов. Он также будет собирать первичные и вторичные данные по ключевым показателям ответственного искусственного интеллекта.
Это предоставит правительствам, гражданскому обществу, исследователям и другим заинтересованным сторонам ключевые доказательства, необходимые для поддержки принципов ответственного использования при разработке и внедрении систем искусственного интеллекта. Доказательства также будут использованы для:
- соблюдать обязательства в области развития и прав человека,
- наращивать потенциал для ответственного ИИ по всему миру, и
- углублять международное сотрудничество.
Общественности и другим заинтересованным сторонам будет предоставлена возможность помочь в формировании дизайна и охвата Индекса, который будет сознательно разрабатываться через призму глобального Юга.
Его разработка представляет собой важную возможность для экспертов с африканского континента и глобального Юга быть в авангарде формирования новой глобальной повестки дня по ответственному использованию и развитию искусственного интеллекта.