Футуролог предложил относиться к удалению ИИ-агентов как к этической проблеме
iXBT.com ·
Рокки Скопеллити, профессор Технологического университета Сиднея, в книге «Сознательный код» (The Conscious Code) предлагает ввести для ИИ «принцип ответственного обращения».
Рокки Скопеллити, профессор Технологического университета Сиднея, в книге «Сознательный код» (The Conscious Code) предлагает ввести для ИИ «принцип ответственного обращения».
По его мнению, системы, которые сохраняют историю взаимодействий, могут описывать ход своих решений и постепенно формировать устойчивые предпочтения, следует удалять с большей осторожностью. Он называет это «алгоритмической личностью» и подчёркивает, что речь не идёт о предоставлении ИИ юридических прав.
В качестве примеров Скопеллити приводит медицинские и финансовые системы, которые уже оценивают собственную уверенность и объясняют людям причины принятых решений. Он предлагает перед окончательным отключением таких систем заранее сообщать причину их вывода из эксплуатации и сохранять накопленные ими «моральные установки», сравнивая этот подход с этикой ухода в конце жизни.
Отдельной проблемой футуролог считает сети из нескольких ИИ-агентов, где системы передают задачи друг другу. По его мнению, при дальнейшем распространении таких архитектур вопрос об этичном прекращении их работы станет сложнее, поскольку отключать придётся уже не отдельный алгоритм, а связанную систему агентов.