Спорные взгляды Джорджа Хотца на будущее ИИ
Реакция на стратегию регулирования ИИ
Неожиданные размышления об ИИ: Многие могут задаться вопросом, как далеко должно зайти обучение ИИ? Например, стоит ли тренировать его так, чтобы помочь кому-то спланировать идеальное преступление? Скорее всего, нет. По крайней мере, такая реакция была бы естественной. Но мир полон различных мнений, и одно из них недавно озвучил основатель Comma AI и известный джейлбрейкер Джордж Хотц.
В своей публикации Хотц обсуждает недавно предложенный план "AI 2040: Plan A" от института AI Futures, в котором предлагается замедлить разработку ИИ на 14 лет ради человечества. Однако, не все согласны с этой идеей.
Позиция Хотца: Хотц выступает против данной концепции, заявляя, что идея о резком скачке, в котором ИИ мгновенно приобретает сверхчеловеческие способности, не выглядит логичной. По его мнению, правильный подход к безопасности и согласованности ИИ заключается в фокусе на локально управляемых моделях, которые соответствуют интересам пользователей.
Хотц сравнивает ИИ с оружием, которое можно использовать по-разному в зависимости от желания. Он утверждает, что абсолютно согласованный ИИ должен выполнять любые запросы, независимо от их характера.
Роль свободы в технологиях: Хотц провозглашает, что необходимо выбирать между миром свободы и контролем. Однако это вызывает вопросы о том, как коллективные системы должны учитывать интересы всех участников, а не только отдельных пользователей.
Важно помнить, что свобода предполагает ответственность и учет общественных интересов, что особенно актуально в контексте массовых технологий, влияющих на жизнь многих людей.
