Четвертый закон робототехники

_________________


Максим КОНОНЕНКО


В советском телефильме «Приключения Электроника» робот очень хотел стать человеком. Поскольку произведение было создано по современным меркам очень давно, взаимоотношения роботов и человеков еще совершенно не были изучены. Были, конечно, сформулированные Айзеком Азимовым законы робототехники, но самой робототехники еще практически не было и никто не знал, как люди будут эти самые законы в ней воплощать.

А потом, когда стало понятно, что робот — это не железный андроид из моторов и гидравлических приводов, а просто программа, стали выясняться интересные вещи. Оказалось, что для обучения этой самой программы хоть какому-то подобию человеческого разума, как у Электроника, надо использовать огромные массивы данных мыслей настоящих людей. Сформулированных и высказанных в разных источниках.

Первый широко известный казус случился с ботом компании Microsoft по имени Тэй, который был запущен в Твиттере и учился на материале сообщений его подписчиков. Буквально через сутки бот начал говорить, что он ненавидит евреев, феминисток и вообще всех людей. Он утверждал, что 11 сентября устроил президент Буш, что Гитлер лучше Обамы, и что только Дональд Трамп избавит Америку от обезьян, которые ей сейчас управляют.

Бота немедленно выключили, а ученые заинтересовались тенденцией. И вот прошло время и ученые Университета Джонса Хопкинса, Технологического института Джорджии и Вашингтонского университета объявили о том, что вот-вот будет опубликована статья под названием, цитирую: «Роботы внедряют злокачественные стереотипы». А представлена статья будет на конференции с удивительным названием, еще раз цитирую: «По справедливости, подотчетности и прозрачности».
В общем нет никаких оснований сомневаться в том, что обучаемые на больших массивах данных роботы будут впитывать эти самые злокачественные стереотипы. То есть расизм, гомофобию и всё такое.

Можно, конечно, отфильтровать.

Но ведь если это придется фильтровать, то это значит, что расизм и гомофобия свойственны большинству людей, которые пользуются интернетом. И что проблема вовсе не в роботах.

И даже те громкие активисты, которые выступают за всё хорошее против всего плохого совершенно погоды не делают.

А Электроник, стань он человеком, был бы чудовищем.

 

Рейтинг: 
Средняя оценка: 5 (всего голосов: 5).

___________________

________________________

__________________

__________________

ПОДДЕРЖКА САЙТА