Times: британский ученый Рассел предупредил о риске уничтожения человечества из-за развития ИИ
Появление искусственного интеллекта, способного решить любую интеллектуальную проблему, грозит человечеству катастрофой. Такое мнение в интервью The Times высказал известный британский ученый Стюарт Рассел.
По его мнению, бесконтрольное развитие в области искусственного интеллекта означало, что люди добились такого прогресса, которого сами даже не ожидали. Он добавил, что вполне возможно, что сверхразумные машины будут сопротивляться попыткам контролировать их в будущем.
«Как сохранить власть над сущностями, которые сильнее вас? Если у вас нет ответа, прекратите исследования. Это легко. Ставки не могут быть выше: если мы не будем контролировать нашу собственную цивилизацию, мы потеряем право голоса и о нашем существовании в будущем», - выразил уверенность Рассел.
Как пояснил Рассел, появление универсального искусственного интеллекта, системы, способной выполнять любую задачу, которую может выполнить человек, может произойти в течение уже ближайшего десятилетия. При решении некоторых проблем, например, связанных с климатом, такие программы вполне могут прийти к выводу, что лучшее решение — избавиться от людей.
«Когда вы учите ИИ имитировать человеческое поведение, вы на самом деле учите его ставить человеческие цели и достигать их. А человеческие цели включают в себя все что угодно <...> Можно только представить, какой катастрофой могут стать по-настоящему эффективные системы, достигающие таких целей», - заключил ученый.
Напомним, ранее американский миллиардер Илон Маск также высказал подобную обеспокоенность. Он предупредил, что искусственный интеллект рано или поздно, но неизбежно возьмет на себя управление и это вполне может привести к уничтожению человечества.
Обсудим?
