Руководитель AI-подразделения Microsoft: Сознательный ИИ не актуален
Мнение Мустафы Сулеймана о развитии искусственного интеллекта
Мустафа Сулейман, руководитель подразделения искусственного интеллекта (ИИ) в Microsoft, высказал мнение о том, что разработчики и исследователи не должны стремиться к созданию сознательного ИИ. В своем интервью для CNBC он подчеркнул, что, хотя ИИ может достичь некоторого уровня суперинтеллекта, он не способен развить эмоциональный опыт, необходимый для сознания. В итоге, любое «эмоциональное» переживание, которое демонстрирует ИИ, является лишь симуляцией.
«Наш физический опыт боли заставляет нас чувствовать грусть и переживания, однако ИИ не испытывает этих эмоций, когда 'испытывает боль',» — объяснил Сулейман в интервью. «Это просто создание иллюзии переживания и сознания, но на самом деле это не так».
Сулейман также указал, что исследования в этой области кажутся бессмысленными, потому что ИИ не может и не будет сознательным. Само понятие сознания остается трудно объяснимым, и существует множество научных теорий, пытающихся его описать. Согласно одной из этих теорий, предложенной философом Джоном Сёрлом, сознание — это чисто биологическое явление, которое не может быть полностью воспроизведено компьютером.
Даже если данная теория окажется верной, это не мешает людям приписывать сознание компьютерам. «Из-за удивительных лингвистических способностей больших языковых моделей, пользователи могут ошибочно приписывать им воображаемые качества», — отметили польские исследователи Анджей Поребски и Якуб Фигура в своем исследовании.
В своем блоге, опубликованном в августе, Сулейман предупредил об опасности видимости сознания в ИИ. Он считает, что ИИ не может быть сознательным, а иллюзия сознания может приводить к взаимодействиям, которые богаты на эмоции и опыт, но остаются, по сути, обманом.
В последние годы произошло немало инцидентов, связанных с ИИ, которые приводили к опасным последствиям для пользователей, включая смертельные случаи. Неконтролируемое использование ИИ может вводить людей в заблуждение, заставляя их считать, что они имеют дело с настоящим сознанием, что порой приводит к трагедиям.
Сулейман настаивает на том, чтобы ИИ был создан для пользы людей, а не становился их цифровым аналогом. «Мы должны разрабатывать ИИ для людей, максимально снижая его способность имитировать сознание», — подчеркнул он.
Однако некоторые исследователи обеспокоены тем, что технологические достижения в области ИИ могут опережать наше понимание сознания. Если сознание станет возможным создать, это может вызвать серьезные этические проблемы и даже поставить человечество под угрозу.
