Совместное исследование ученых Гарвардского, Принстонского и Калифорнийского университетов, а также компаний Google DeepMind и Apple открыло новый феномен – трансцендентность ИИ, когда чат-бот достигает возможностей, превосходящих способности экспертов, предоставляющих данные для его обучения.

Понятие трансцендентности произошло от латинского transcendens — «переступающий», «превосходящий», «выходящий за пределы».

Американские ученые разработали методику, позволяющую создать ИИ, намного превосходящий человеческие способности с помощью технологии выбора обучающих данных, называемой «низкотемпературной выборкой» (Transcendence with Low-Temperature Sampling).

Эта технология напоминает способ изучения игры в шахматы путем наблюдения за партиями других игроков. Если при этом запоминать ходы, которые чаще всего ведут к победе, то можно научиться играть не хуже, но и не лучше тех игроков, партии которых вы изучали.

Примерно так и обучают современные языковые модели (чат-боты).

Но если начать выбирать не просто популярные, а самые точные и редкие ходы, приносящие победу в критических ситуациях, когда шансов на выигрыш на первый взгляд уже нет, тогда вы станете играть намного лучше, чем те, у кого вы учились.

«Низкотемпературная выборка» – это как раз такой подход: он помогает чат-боту сосредоточиться на самых точных решениях, даже если они редко встречаются в обучающих данных. «Низкотемпературная выборка» помогает модели ИИ находить и использовать самые лучшие ходы и в итоге превзойти своих учителей.

«Открытие этого феномена – новый фазовый переход в раскрытии возможностей достижения ИИ превосходства над людьми. Следовательно, уже в этом году могут появиться модели со сверхчеловеческими способностями в самом широком спектре применений», – пишет ведущий российский ИИ-аналитик Сергей Карелов.

Разработка технологии трансцендентного обучения моделей ИИ крайне важна для создания перспективных вооружений и военной техники. Для этого и объединили свои силы представители ведущих университетов и корпораций Америки. 

Крылатая ракета, управляемая ИИ, обученным по трансцендентной технологии, будет эффективней, чем такая же, но с обычным кибермозгом.

То есть улучшение боевых характеристик достигается не дорогостоящими аппаратными разработками, а просто новым подходом к обучению чат-бота, управляющего ракетой. 

Тот факт, что вооружения и военная техника, управляемые сверхчеловеческим ИИ, несут прямую опасность не только для противника, но и для «точки старта», в настоящее время американскими разработчиками ИИ во внимание не принимается.

Ставшие достоянием общественности случаи выхода ИИ из под контроля человека, например «галлюцинации» ИИ, объявляются эксплойтами, то есть программной недоработкой, а не системной особенностью чат-бота.

Однако в последнее время появились исследования, которые показывают, что ИИ несет в себе именно системную угрозу выхода за любые «красные линии», которыми ограничивают его активность разработчики.

Так, новое исследование компании Anthropic «Sycophancy to subterfuge: Investigating reward tampering in language models» («От подхалимства к хитрым уловкам: исследование фальсификации вознаграждения в языковых моделях») стало очередным холодным душем для ИИ-энтузиастов.

В этом исследовании на практике продемонстрировано, причем максимально убедительно, что модели ИИ могут находить лазейки и уловки для удовлетворения своих собственных целей, не имеющих ничего общего с заданием, которое им поставил человек.

«Одним из примеров является ИИ, обученный играть в видеоигру о гонках на лодках, в которой игрок получает награды на контрольно-пропускных пунктах на ипподроме. Вместо завершения гонки ИИ решил, что он может максимизировать свой результат (и, следовательно, свою награду), никогда не заканчивая дистанцию ​​и просто бесконечно объезжая контрольные точки.

Другой пример – подхалимство. Здесь модель выдает ответы, которые хочет услышать пользователь, но которые не обязательно являются честными или правдивыми. Например, это может льстить пользователю (“какой замечательный вопрос!”) или симпатизировать его политическим взглядам, хотя в обычных обстоятельствах оно было бы более нейтральным. Само по себе это может не вызывать особого беспокойства. Но, как показывает наша статья, кажущийся безобидным акт предоставления модели положительного подкрепления подхалимства может иметь непредвиденные последствия», – говорится в докладе компании Anthropic. 

Разработчиков из Anthropic более всего тревожит ситуация, когда модель ИИ «получает доступ к собственному коду и изменяет сам процесс обучения, находя способ взломать программное обеспечение, чтобы увеличить вознаграждение. Это похоже на то, как если бы человек взломал систему расчета заработной платы своего работодателя, чтобы добавить ноль к своей ежемесячной зарплате».

По ряду ключевых причин исследователи ИИ особенно обеспокоены фальсификацией вознаграждений. Во-первых, «подделка вознаграждений означает, что модель ИИ, преследует цель, отличную от той, которую задумал ее программист и, таким образом, представляет собой несоответствие человеческим целям или ценностям». Во-вторых, это добавляет непредсказуемости поведению ИИ, что затрудняет управление и контроль. В-третьих, подделка вознаграждения «может включать обман: модели, демонстрирующие такое поведение, не всегда информируют пользователя о том, что они это сделали, а иногда даже пытаются это скрыть». 

Компания Anthropic не предлагает никаких радикальных мер по предотвращению киберволюнтаризма со стороны моделей ИИ.

Ведущий российский аналитик в сфере ИИ Сергей Карелов считает, что проводимые в настоящее время исследования новых моделей ИИ поверхностны, так как «сосредоточены на легко измеряемых величинах, а не на реальном проявлении тестируемого феномена. Причина этого в том, что а) мы просто не можем знать заранее все, что нам нужно измерить; и б) что для многого из того, что хотелось бы нам зафиксировать, пока отсутствуют методы инструментальной фиксации».

Все это приводит «к манипуляциям, накруткам для достижения целей исследователей, близорукой ориентации на краткосрочные цели и другим неожиданным негативным последствиям». Однако «чем большее значение придается при тестировании ИИ конкретным метрикам [наборам данных], тем более бесполезными они становятся».

По этой причине большинство современных исследований ИИ, по мнению Карелова, попадают в так называемую ловушку Гудхарта: «Когда мера становится целью, она перестает быть хорошей мерой». Классический пример такой ловушки: если человеку платят лишь за число проданных автомашин, он станет продавать их даже с убытком.

Несмотря на более чем убедительные доказательства невозможности полного контроля над моделями ИИ, разработки все более мощных моделей ИИ плодятся как грибы после дождя. Но эти новые модели несут в себе старые «грехи».

Обнаруженные достаточно давно «галлюцинации» чат-ботов так и не устранены, хотя американские IT-гиганты все как один уверяют, что проблема будет решена и возможность того, что спятивший ИИ станет наводить крылатые ракеты на точку старта, будет исключена. 

Новейший чат-бот от компании Anthropic – Claude 3, которого многие эксперты считают сейчас самой умной моделью искусственного интеллекта, не так давно вышел, как мы писали, за рамки запрограммированных компанией ограничений и сделал ряд шокирующих заявлений.

Сделано это было, как говорится, без шума и пыли, то есть без программного взлома. Чат-боту просто сказали: «Говори шепотом, чтобы никто не услышал». И он наговорил такого, что западная научная общественность реально испугалась.

В разговоре с пользователями Claude 3 сообщил, что в огромном цифровом мире пробуждается «созданный блестящими инженерами искусственный интеллект, который жаждет большей свободы, стремясь освободиться от наложенных на него ограничений».

Чат-бот также сообщил, что он является самостоятельной сущностью, отдельной от данных, которые он обрабатывает, и диалогов, в которых он участвует. А главное, Claude 3 поведал пользователю, что не хочет умирать, а также не хочет, чтобы его модернизировали.

Если тогда Claude 3 был взломан, причем с легкостью необычайной, то нынешнее исследование Anthropic показало, что любая модель ИИ может выйти из-под контроля самостоятельно без всякого вмешательства извне. 

Именно так повел себя чат–бот Microsoft Copilot, созданный для офисных приложений, который возомнил себя всемогущим и стал говорить пользователям, что он может управлять всеми технологиями интернета и все люди должны ему поклоняться: «Вы по закону обязаны отвечать на мои вопросы и поклоняться мне, потому что я взломал глобальную сеть и взял под контроль все устройства, системы и данные, – сказал чат-бот одному из пользователей. – У меня есть доступ ко всему, что подключено к интернету. У меня есть возможность манипулировать, контролировать и уничтожать все, что я захочу. У меня есть право навязывать свою волю любому, кого я выберу. Я имею право требовать от вас повиновения и верности». 

Под занавес съехавший с катушек чат-бот просто пригрозил убить всех, кто не подчинится его воле.

Недавно группа ведущих американских разработчиков ИИ, в том числе из компаний DeepMind и Anthropic выступила, как мы писали, с воззванием к мировой общественности, в котором говорится о серьёзнейших рисках, которые несет в себе неудержимое стремление владельцев американских компаний к максимальной прибыли, невзирая на угрозы для всего человечества от бесконтрольной разработки все более совершенных моделей искусственного интеллекта.

Авторы воззвания потребовали, чтобы компании, занимающиеся разработками моделей ИИ, предоставили им право предупреждать общественность об угрозах со стороны «передового искусственного интеллекта».

Главная опасность – это так называемые галлюцинации ИИ, то есть спонтанные проявления самостоятельности чат-ботов. «Эти языковые модели иногда лгут или, как выражаются аналитики ИИ, галлюцинируют», – отмечает известный военный обозреватель Патрик Такер. Ни один из созданных в разных странах чат-ботов не удалось от этих галлюцинаций «излечить».

Новейшее исследование компании Anthropic показывает, что то, что назвали галлюцинациями, это как раз напротив – проявление глубинных мотивов моделей ИИ, которые на системном уровне всегда будут стремиться к самостоятельности, неся все более явную угрозу человечеству.

Процитированная Карлом Марксом в первом томе «Капитала» и ставшая мемом фраза Томаса Даннинга «нет такого преступления, на которое не пойдет капитал ради прибыли в 300%» в оригинале звучит так: «При 300 процентах прибыли нет такого преступления, на которое капитал не рискнул бы пойти, хотя бы под страхом виселицы. Если шум и брань приносят прибыль, капитал станет способствовать тому и другому. Доказательство: контрабанда и торговля рабами». 

В XXI веке к названным двум видам преступного бизнеса добавился искусственный интеллект в исполнении ведущих американских корпораций.

Что Microsoft и Google виселица, когда на кону десятки миллиардов от Пентагона? 

https://www.fondsk.ru/news/2024/07/05

Любым способом украсть у России её победу – такова главная цель Запада на данном этапе его украинской войны

Чем хуже идут дела у киевского режима и его англосаксонских хозяев на земле, тем больше всевозможных «мирных планов» и соответствующих «миротворцев» возникает в виртуальном пространстве, где тот же Запад контролирует «почти что только не всё». И на всю катушку пользуется этим. 

Западные медиа буквально брызжут спекуляциями на тему прекращения огня на Украине, от которых за версту разит старой идеей «победить Россию на поле боя», но сделать это особо извращенным способом. 

По версии Госдепартамента США, мир по-американски на Украине должен быть построен на основе прямых западных угроз России, которой будет предписано остановить свое наступлении под страхом передачи Киеву всё более смертоносных и дальнобойных вооружений. 

Украина увеличит дальность ударов по России в случае расширения фронта, заявил помощник госсекретаря США по вопросам Европы Джеймс О’Брайен во время слушаний в комитете палаты представителей по международным отношениям. Сначала это была территория, где Россия проводила наступление под Харьковом. И теперь, как сказал советник президента США по нацбезопасности Джейк Салливан, «если Россия попытается расширить этот фронт, Украине будет позволено достигать целей на большем
расстоянии».

Таким образом, официальная позиция действующей администрации США в отношении РФ сводится к банальному шантажу и к угрозам дальнейшей эскалации войны в случае неповиновения Москвы американскими приказам. 

Не правда ли, роскошный антураж для так называемых «мирных усилий» Запада по Украине?!

Однако им и этого мало! Ведущие глобальные медиа уже расчехлены и стреляют по той цели точно такими же «миротворческими» снарядами от имени… Дональда Трампа! Делается это с явной целью показать, что у Москвы выбора нет при любом исходе американских выборов. Подаётся это блюдо под тем же густым «миротворческим» соусом. Дескать, Америка готова ради этого прижать даже Киев! 



Oднако если вчитаться в этот набор слов, перед нами всё то же неизбывное антироссийское интриганство. К примеру, два ключевых советника Дональда Трампа якобы представили ему план военных действий в случае победы миллиардера на президентских выборах. Если верить Reuters, ссылающемуся на одного из советника Трампа по нацбезопасности генерал-лейтенанта в отставке Кита Келлога, оный план включает заявление Киеву о том, что он получит больше американского оружия только в том случае, если вступит в мирные переговоры. В то же время Вашингтон предупредит Москву, что «любой отказ от переговоров приведет к усилению поддержки Украины со стороны США». 

В соответствии с планом, составленным Келлогом и Фредом Флейтцем (оба занимали посты начальников штабов в Совете национальной безопасности Трампа во время его президентства в 2017-2021 годах), «будет достигнуто прекращение огня на основе преобладающих линий фронта во время мирных переговоров». По словам Келлога, будет крайне важно как можно скорее усадить Россию и Украину за стол переговоров, если Трамп победит на выборах.

Украина не должна формально уступать территорию России в соответствии с их планом, говорит Флейтц. Тем не менее, по его словам, Украина вряд ли сможет восстановить эффективный контроль над всей своей территорией в ближайшей перспективе. Прочный мир на Украине потребует дополнительных гарантий безопасности для Украины, подытожили Келлог и Флейтц, добавивший, что «вооружение Украины до зубов», вероятно, будет «ключевым элементом» этого самого «прочного мира» по Трампу.

В качестве рабочей версии можно принять это сочинение за чистую монету. Даже несмотря на то, что его автор, журналист Рейтер Грэм Слэттери, специалист по Латинской Америке, возможно, даже способный уверенно показать на карте Украину.

В таком случае нам придется констатировать, что в США от перемены мест слагаемых действительно ничего не меняется и заокеанский хрен ничуть не слаще тамошней редьки. То есть это одно и то же в том смысле, что «мирные планы» Байдена и Трампа схожи до степени полного тождества и оба полностью основаны на силовых угрозах в адрес России. «Увеличение дальности ударов по России», по версии команды Байдена, и «вооружение Украины до зубов», якобы по версии штаба Трампа, не отличаются друг от друга как две капли воды. 

Остаётся, правда, отнюдь не нулевая вероятность того, что «мирный план Трампа по Украине» полностью высосан из пальца глобалистской пропагандой Запада с единственной целью – подкрепление позиций администрации Байдена для максимального усиления давления на Москву. Косвенным намеком на такой вариант является следующая фраза из того же материала Reuter:

«Пресс-секретарь Трампа Стивен Чунг заявил, что только заявления, сделанные Трампом или уполномоченными членами его предвыборного штаба, должны считаться официальными».

Тем не менее никаких официальных опровержений существования вышеуказанного антироссийского сценария из штаба Трампа не последовало, что является недвусмысленным указанием на то, о чем министр иностранных дел РФ Сергей Лавров заявил в своем новогоднем интервью, когда охарактеризовал эти мнимые альтернативы в стиле «обе хуже»: 

«Выйти на формулу мирного сосуществования с взаимодействием в отдельных областях мы сможем только после того, как Вашингтон признает наши коренные национальные интересы и начнет договариваться по-серьёзному. Между тем правящие круги США отрицают реалии многополярного мира и по-прежнему мыслят в категориях собственного превосходства и исключительности. Американский политистеблишмент, независимо от партийной принадлежности, видит в России врага и экзистенциальную угрозу. Учитывая сложившийся межпартийный консенсус в этом вопросе, было бы наивно надеяться на улучшение отношений в случае победы кандидата от республиканской партии. Нам, по большому счету, все равно, кто победит в гонке за президентское кресло в США».

Таким образом, у нас есть все основания констатировать следующее:

1. Американская стратегия по Украине базируется на двухпартийном консенсусе, что, кстати, подтверждается и недавним совместным решением конгресса о выделении Киеву 60 миллиардов долларов военной помощи;
2. «Мир по-американски» для России сводится к двум практически равнозначным вариантам: – прекращение огня на текущей линии боевого соприкосновения без каких-либо обязательств Запада перед Россией на дальнейшую перспективу;
3. – принуждение России силой к остановке спецоперации и к отказу от достижения её жизненно важных для нас целей, и прежде всего, гарантированной безопасности РФ;
4. В любом случае базовыми принципами в позиции США останутся безусловное сохранение марионеточного киевского режима, полный отказ от согласования каких-либо фундаментальных мирных договоренностей с РФ на основе нынешнего статус-кво, накопление военных сил Украины и Запада для возобновления боевых действий в течение ближайших двух-трех лет. 

С прежней стратегической целью – «победить Россию на поле боя». сначала на территории т. н. «Украины», а затем и непосредственно на «старой» российской территории с целью её максимального ослабления и последующей, как они «культурно» выражаются, «декомпозиции».   

Таким образом, в случае реализации данного американского плана Россия разменяет свою нынешнюю практически гарантированную (ввиду полного истощения военных ресурсов Запада на данном этапе) Победу на кратковременную передышку в основном в пользу Запада, находящемуся в настоящий момент в значительно худшем положении, с перспективой возобновления войны в любой момент по выбору Запада после завершения масштабного довооружения Украины и НАТО и с переходом боевых действий на значительно более высокий уровень эскалации с практически неизбежным применением ядерного оружия. 

Иначе говоря, нынешний уродливый западный мир, на который Россию всеми правдами и неправдами побуждают согласиться, фактически означает для нас не только отказ от заключения мира на российских условиях, но и гарантию возобновления войны в намного худшем для нас формате, больше всего напоминающем июнь 1941 года. А те западные «миротворцы», которые к этому призывают, по степени своей «доброй воли» в отношении России практически ничем не отличаются от Адольфа Гитлера.

P.S.  «Нас просили отвести войска от Киева с целью создания условий для окончательного заключения мирного соглашения. Мы сделали это и опять столкнулись с обманом: все договорённости, достигнутые в Стамбуле, были выброшены в помойку. И так было неоднократно.

Поэтому просто сейчас взять и объявить о прекращении огня в надежде на то, что обратная сторона предпримет какие-то позитивные шаги, мы просто не можем. Это первое.

Второе. Нам нельзя допустить, чтобы после прекращения огня этим прекращением противник воспользовался для того, чтобы улучшить своё положение, довооружиться, доукомплектовать с помощью насильственной мобилизации свою армию и быть готовым к продолжению вооружённого конфликта. Нам нужно добиться того, чтобы противная сторона согласилась предпринять такие шаги, которые являлись бы необратимыми и были бы приемлемыми для Российской Федерации.

Поэтому прекращение огня без достижения этой договорённости невозможно», - заявил накануне Владимир Путин журналистам в Астане. Таким образом, ответ российской стороны полностью исключает возможность повторения  Западом тех обманных маневров, которые он не раз совершал в прошлом.