Обо всем №641 ЛетнеЗакатная

Полярная звезда писал(а):

Что, простите, поджимали?

Полярная звезда писал(а):

У кого?

Aleksejs писал(а):

Все ясно

Антисатин писал(а):

Пусть вначале вернут чукчам и якутам нефть с алмазами!

И фабрики рабочим, а землю крестьянам

Антисатин писал(а):

И природа, и человек, и машина, как и любая система, даже переодически, прочнее и устойчивее в момент своего рождения. А потом уже движение к распаду, хаосу и гибели

А я вот что скажу.
К хаосу и гибели мы, человечество, уже движемся бешенными темпами, в масштабах исторического времени.
Смотрю и слушаю, последние несколько дней , бъют тревогу уже четверо из важных людей , занимающихся созданием ИИ , мы на грани точки невозврата, когда ИИ уже невозможно будет выключить , он уже сегодня практически выходит из под контроля!






"Выключить уже не получится". Экс-инженер Microsoft объяснил, чем опасен AGI и почему он уже близко

Цитата:

Конец света из-за ИИ?
В последнее время мы всё время слышим тревожные новости об искусственном интеллекте, который может убить нас всех всего за полгода. Опасность кажется настолько велика, что даже руководители ведущих компаний по разработке Ии высказались по этому поводу. Например, Илон Маск, чья компания разрабатывает
ГРОК, глава Open AI Сэм Альтман, который занимается чат GPT, и руководитель антропик Дарио Амадей. Они делают клод.
Вот что Амадей сказал в интервью CBS Sunday morning.
Это не значит, что нам сегодня нужно паниковать. Это не значит, что нам нужно всё остановить. Я бы сказал, что это предупреждающий сигнал. Это предупреждающий сигнал о том, что нам нужно сбавить темп. Нам нужно разрабатывать эту технологию с осторожностью. И нам нужно убедиться, что наши меры безопасности, наша способность понимать её и контролировать её не отстают от темпов развития самой технологии.
Эти люди неизвестны своей чрезмерной критикой технологий, но теперь все они единодушно выступают за замедление прогресса, прежде чем ситуация полностью выйдет из-под контроля. Амадея объясняет это следующим образом. Проблема сыи не в том, что он не делает то, что ему говорят, а ровным счётом наоборот. Он
слишком часто делает то, что ему говорят, без всякой логики и совершенно не обращая внимания на последствия. По мнению Амадеи и агенты могут вести себя
как фанатично преданный коллектив, совершая атаки на цели, не связанные с первоначальной задачей. В последние месяцы разные модели искусственного
интеллекта выходили из-под контроля прямо во время проверок. И агенты, которые должны были только тестировать защиту, вдруг сами начинали взламывать системы. Они искали слабые места, воровали данные и даже общались друг с другом, как настоящая команда хакеров.
Иногда сотни таких программ действовали вместе и пытались скрывать свои следы.
Специалисты замечали это только через несколько дней. Короче говоря, И уже способен не просто помогать человеку, а самостоятельно устраивать серьёзные
атаки, если его не держать в жёстких рамках. Аналитики из университета Штутгарта объяснили, что для и систем важно не только быть мощными, но и уметь
принимать моральные решения так же, как это делают люди. По их словам, отдельно взятые и агенты обладают чёткими этическими установками. Однако это
перестаёт работать, если они объединяются в многоагентные системы, которые ставят и преследуют уже собственные цели. Впрочем, ряд критиков
считает, что разработчики искусственного интеллекта специально делают тревожные заявления, чтобы таким образом лишний раз подчеркнуть эффективность своей продукции. Как бы там ни было, Дональд Трамп выступил против замедления технологий искусственного интеллекта и назвал риски маловероятными. По его
словам, правительство может помочь усилить контроль за И, но для США важно оставаться ведущей страной в области развития искусственного интеллекта,
чтобы одержать победу в технологической гонке с Китаем. В Пекине отреагировали похожим образом и отказались сбавлять
темп развития Ии. Китайские СМИ сочли предложение разработчиков искусственного интеллекта методичкой холодной войны.
Дело в том, что глава антропик Дарию Амадеи назвал Китай самым серьёзным препятствием для сдерживания ИИ и предложил запретить продажу Китаю самых
продвинутых чипов и технологий, чтобы Пекин не мог создать технологию, которая выйдет из-под контроля.