В последние недели развитие искусственного интеллекта заняло центральное место в общественной дискуссии как в Соединённых Штатах, так и в других частях мира. Всё началось, когда компания Anthropic, владелец модели Claude, выпустила подробный отчёт на более чем 150 страницах, в котором перечислены многочисленные «неправильные применения ИИ», среди которых несколько человек начали использовать инструмент для проведения кибертеррористических атак и даже для незаконного проектирования и управления ракетами.
Это вызвало новую дискуссию, инициированную Дарио Амодеи
Дебаты об ИИ
Сам владелец одной из ведущих компаний в области искусственного интеллекта опубликовал статью, в которой утверждает, что все компании в этой сфере должны договориться о лимитах развития этих моделей до того, как станет слишком поздно и их нельзя будет контролировать. Кроме того, он призывает правительства усилить контроль над компаниями, чтобы гарантировать соблюдение мер безопасности.
«Мы должны регулировать продвижение границ. Я написал новое эссе о том, почему индустрия ИИ должна двигаться медленнее, с трёхчастным планом для этого», — написал Амодеи.
Это вызвало масштабные глобальные дебаты по теме. Даже сам президент Дональд Трамп
Он добавил: «Единственный контроль, который нужен ИИ — это умный президент, и у США он уже есть. Администрация Трампа не позволила людям из сферы ИИ делать плохие вещи, как Дарио из Anthropic, который теперь пытается выглядеть как ‘идеальный ангел’. Существует заговор против ИИ и дата-центров, и единственная страна, которой это нравится — Китай».
Реакция игроков
Когда Anthropic поделилась статьёй, в которой подробно описывались различные случаи неправильного использования искусственного интеллекта, многие люди начали отвечать и взаимодействовать с новостью. Одним из них был профессиональный игрок Скотт Сайвер
Читайте также: Жоао Симао снова наносит мощный удар в Triton: второе место и ещё 2,5 миллиона долларов США — CodigoPoker
«Прочитать или хотя бы бегло ознакомиться с основными моментами этой статьи абсолютно необходимо для каждого, кто хочет иметь мнение о нашем текущем состоянии ИИ. Если это не вызывает у вас мурашек, стоит задуматься, почему нет».
Со своей стороны, Даг Полк
«Продолжаю следить за вопросом ИИ. Есть большой процент людей, которые считают, что вероятность того, что ИИ уничтожит человечество, составляет 5-10%. Есть немало людей, которые считают, что эта вероятность равна 0%. Я, предполагая, что истина где-то посередине, задаюсь вопросом: какой уровень риска для нас всех был бы приемлемым? 0,1%, 1%, 10%?
Я считаю, что даже самая маленькая вероятность должна восприниматься крайне серьёзно, если речь идёт о плохих последствиях. Возможно, моя карьера игрока заставляет меня сильнее чувствовать риск, но меня не успокаивает вероятность 1 из 100, что ИИ нас всех уничтожит.
Также мне интересно узнать о реальных способах его смягчения. Если пути нет, возможно, стоит остановиться. Но я считаю, что самым ответственным шагом было бы серьёзно задуматься о том, как предотвратить появление терминатора в реальной жизни».
Совсем недавно, немного отстранённо от дебатов о будущем ИИ, Скотт Сайвер снова написал о моделях LLM, но уже в контексте их повседневного использования.
«‘Любое искусство, созданное большой группой, имеет меньше шансов быть заметным. Искусство, созданное одним человеком или небольшой группой с уникальным видением, гораздо чаще бывает плохим или шедевром, но всегда гораздо интереснее’. Райан Летурно написал это о чём-то совершенно другом, чем я сейчас думаю, но это в основном напоминает мне то, что я чувствую по поводу использования LLM повсюду. Мы жертвуем крайними случаями ради чего-то приемлемо среднего и, делая это, заплатили цену потерей искры или остроумия», — написал Сайвер.
Читайте также: Казино игры в Ignition: что предлагает покерная комната
