Искусственный интеллект имеет право на ошибку. Так, побывав в Твиттере, ИИ стал расистом. ИИ может ошибиться при поимке преступника. Неправильно поставить диагноз. Дезинформировать новостную службу. Поэтому ученые задумались, как сделать ИИ сознательным. И организовали AIRL - Лабораторию ответственности за действия искусственного интеллекта.

Между светом и тенью

В любых научных исследованиях наступает момент, когда ученые задумываются: “Не нарушает ли инновация моральных принципов?” Возьмем технологию видеонаблюдения. Система распознавания лиц на стадионе распознает преступника, который скрывается в толпе болельщиков. Но машина остается машиной, пусть и самой совершенной. А значит, может по ошибке обвинить невиновного. А если технология попадет в руки преступной организации, face recognition обеспечит травлю группы людей, допустим, по этническому принципу.

Другой пример. ИИ может заговорить голосом любого человека! И нейронные сети, приняв чей-то вид, позвонят по мессенджеру жертве, представятся родственником (а сходство будет безупречно) и срочно попросят денег?

Компании, внедряющие ИИ, должны защищать свою работу. Например, клиника обрабатывает тесты на COVID и доверяет ИИ большие данные. В таком случае, необходимо защищать сеть от хакерских атак, чтобы чья-то история болезни не попала хакерам. Важность сетевой безопасности подчеркивает в мануале и ExpressVPN: хакеры могут перехватить любую информацию, которая передается с устройства в сеть. И требуются инструменты, такие, как VPN, которые поместят данные в своеобразный туннель и обеспечат безопасность конфиденциальной информации.

Искусственному интеллекту не чужда этика?

Гендиректор AIRL Рамсей Браун объясняет суть проблемы:

- В сообществе, где разрабатывают ИИ, есть люди, работающие над соответствием стандартам. Но они не общаются с командами data science и не знакомы с реальными проблемами.

AIRL, наряду с организациями, которых беспокоит приватность, надеются изменить положение к лучшему. Сознательный ИИ нужен, чтобы технология учитывала интересы человека.

Предполагается, что сознательный ИИ оперирует четырьмя принципами:

- есть четкие критерии проверки, которые доказывают, что робота не взломать;

- цель и процесс принятия решений ИИ понятны любому пользователю;

- алгоритмы ИИ сами находят и устранят собственные неполадки;

- ИИ оперативно реагирует на изменения в IT-среде.