ИИ или не ИИ?

Всем привет! На днях прошла новость о этике ИИ.
Почитать можно ТУТ и ТУТ

То, что мы живем в эпоху данных ни у кого сомнения не вызывает. С нейронными сетями и искусственным интеллектом общаемся чаще, чем кто бы то мог представить:

• лента социальных сетей (подбор релевантного контента)
• галерея телефона (распознавание лиц)
• прогноз погоды (не по птицами же)
• и т.д.

Особое внимание привлекли следующе слова:

люди должны иметь моральные обязательства перед своими машинами, аналогичные правам человека или животным, <…> право на жизнь и свободу, свободу мысли и высказываний, а также равенство перед законом.

zab.ru

В голове всплывают классические литературные три закона робототехники Айзека Азимова:

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

Если посмотреть, какие роботы используются сейчас, то это мойка окон, пылесос, официант. В целом можно отнести к обслуживающему персоналу. С другой стороны есть голосовые ассистенты типа «Алиса», «Гугл», «Сири», «Кортана», «Олег», «Маруся», «Джой» и т.д. Налицо изначальное одушевление. Возможно именно тут стоят корни описываемой «этики». Но по сути, робот это некий алгоритм, который на основе ранее записанных данных и методик прогнозирования выполняет какие-то действия.

На сегодняшний день программисты говорят, что до самосознания нейросетей и искусственного интеллекта в глобальном понимании еще далеко. Подробно написано в ЭТОЙ статье почему.

Основной вопрос, который будет влиять на перспективу развития темы: какие цели будут ставится человеком перед искусственным интеллектом? Многие варианты описаны в литературе и сериалах (Черное зеркало, Мир дикого запада и т.д.) ИИ такой же инструмент, как молоток или кухонный нож. Все зависит от человека, который им управляет. К каждому из инструментов есть техника безопасности.

Предлагаю обсудить, что важнее на сегодняшнем этапе развития: этический кодекс или техника безопасности?