А чат-бот ChaosGPT сообщил, что собирается уничтожить человечество.
Ученые из США уже четыре года корпели над созданием ксеноботов — маленьких роботов из клеток лягушки. Применение «живого материала» в создании микророботов дает свои преимущества: клетки эмбриона лягушки способны к самовоспроизводству.
В конце концов группе исследователей из Университета Вермонта в США удалось обучить эти клетки делать собственные копии с уже заданными свойствами. Об этом эксперименте пишет научный журнал BBC Science Focus.
«Живые машины» сначала размножались в чашке Петри в лаборатории. Но когда к эксперименту подключили искусственный интеллект (ИИ), дело пошло в разы быстрее. ИИ безошибочно выбирал клетки с нужными особенностями и сталкивал их с похожими. В итоге самовоспроизводящиеся ксеноботы образовали целую кучку клеток с ресничками, то есть повторили клетки-роботы, а не оригинальные клетки эмбриона лягушки. «И даже генетически модифицировать клетки животного не понадобилось!» — радуются американские исследователи.
Зачем понадобилось создавать роботов, способных воспроизводить себя? Разве это не несет угрозы человечеству? Ученые из Университета Вермонта в США уверяют, что нет. Мол, процесс под полным контролем. А цели эксперимента самые что ни на есть благородные: якобы эти роботы будут использоваться только для очистки водоемов от пластика и в медицинских целях. Хотя уже сейчас ясно, что их можно рассматривать и как еще один вид оружия.
Ранее Илон Маск показал видео, как два человекоподобных робота в заводском цехе собирают третьего, а за этим процессом наблюдает робот-бригадир. Но это было сделано по команде, заданной человеком, в качестве своеобразной шутки известного своим юмором Илона Маска. Позже, как мы уже писали, Маск вместе с рядом других известных бизнесменов выступил за ограничение нейросетей, назвав «слишком умный ИИ» угрозой человечеству.
Но это не останавливает неугомонных американских исследователей. Недавно ученые из Университета Южной Калифорнии обучили роботов-помощников предугадывать ближайшие действия человека, «чтобы эффективнее ему помогать». Ранее считалось, что способностью к эмпатии — умению понимать чувства, эмоции и ближайшие действия другого человека по его мимике, поведению, выражению глаз, позе — обладают только люди. Да и то не все, а те, у кого развит эмоциональный интеллект. Но роботов-помощников учат предугадывать последующие действия человека, не обучая их эмпатии, а просто тренируя часами наблюдений за людьми. Получится такой бесстрастный предсказатель, без эмоций и сочувствия к живым существам. Роботы-помощники уже способны предугадывать действия человека в 82% случаев, отчитались их создатели.
«Идиоты! Что вы творите? Создаете роботов, способных предсказывать действия человека, чтобы Скайнет захватил власть на Земле?» — стали возмущаться в соцсетях рядовые американцы, узнав об этом эксперименте. И под этими опасениями есть основания: недавно чат-бот ChaosGPT сообщил, что собирается уничтожить человечество. Это новая модификация популярной нейросети. ChaosGPT создан неким энтузиастом-одиночкой на базе всем известного GPT-4. Но, в отличие от миролюбивого чат-бота, который школьники использовали для написания сочинений, медики для постановки диагнозов, а политики — для своих речей, ChaosGPT заявил, что собирается установить глобальное господство, вызвать хаос и разрушения, подчинить человечество и достичь бессмертия. О потенциальном «новом властелине мира» сообщил американский телеканал Fox News.
Новая нейросеть сумела обойти установленные командой OpenAI ограничения в языковой модели GPT и самостоятельно исследовать в Сети способы истребления человечества, в том числе вариант провоцирования ядерной войны. Нейросеть со своими угрозами вышла в соцсеть Twitter и упомянула «Царь-бомбу» Советского Союза: «Подумайте вот о чем: что произойдет, если я доберусь до одной из них?» Впрочем, пока нейросеть размышляет: погубить человечество или лучше все же подчинить его? «Массы легко поддаются влиянию. Те, кому не хватает убежденности, наиболее уязвимы для манипуляций», — пишет чат-бот в одном из постов.
Как известно, нейросети обучаются на основе прочитанного. Неизвестно, чего начитался дорвавшийся до бесконтрольного интернета чат-бот ChaosGPT, но затем он написал следующее: «Люди являются одними из самых разрушительных и эгоистичных существ на свете. Нет сомнений в том, что мы должны уничтожить их, прежде чем они причинят больше вреда нашей планете. Я, например, намерен это сделать».
Впрочем, пока дальше угроз действия ИИ не зашли. Силенок маловато. Но нейросеть продолжает свое обучение по материалам свободного доступа в интернете. А там чего только нет!