Социальные и прочие последствия от появления AGI и ASI

[mihaild]

Klein в сообщении #1728672 писал(а):

Связь прямая

И какая же связь с данным случаем?

Klein в сообщении #1728672 писал(а):

Атаки происходили и раньше, но вы упускаете качественное изменение, связанное с применением новых моделей

Вроде бы "качественного изменения" пока что надежно не продемонстрировано. По крайней мере статистики именно про увеличение атак (а не просто найденных уязвимостей) за счет нейронок я за 5 минут не нагуглил.

[Klein]

mihaild в сообщении #1728673 писал(а):

Klein в сообщении #1728672 писал(а):

Связь прямая

И какая же связь с данным случаем?

Klein в сообщении #1728672 писал(а):

Атаки происходили и раньше, но вы упускаете качественное изменение, связанное с применением новых моделей

Вроде бы "качественного изменения" пока что надежно не продемонстрировано. По крайней мере статистики именно про увеличение атак (а не просто найденных уязвимостей) за счет нейронок я за 5 минут не нагуглил.

Думаю, масштаб проблемы пока не до конца расскрыт.
OpenAI предоставляет проверенным специалистам по защите критической инфраструктуры ограниченный предварительный доступ к GPT‑5.5‑Cyber. Anthropic предоставляет доступ к Claude Mythos Preview организациям, прошедшим отбор в рамках Project Glasswing. Это лишь наиболее известные примеры. Сколько существует других специализированных систем и насколько широко они применяются, достоверно неизвестно. Более полная картина, видимо, появится после публикации новых отчетов позже.
Существование черного рынка похищенных данных подтверждает огромный спрос на персональную информацию. Взломщиков часто интересуют не столько реквизиты банковских карт, сколько персональные данные, которые можно использовать по-разному - хотя бы просто продать. Только легальный рынок брокеров данных 2 года назад оценивался примерно в $200 млрд. Черный рынок личных данны не контролируют.
Взломы попросту не предают огласке. Иначе клиенты разбегутся - если только речь не идет о монополисте с клиентурой в 4,7 млн, от которого им некуда уйти. Другие могут о взломе просто не знать.

[mihaild]

Klein
Какие основания считать, что

Klein в сообщении #1728660 писал(а):

Компания, поставляющая электроэнергию и газ, сегодня прислала письмо о возможном инциденте в сфере безопасности данных

вообще хоть как-то связано с ИИ?

Klein в сообщении #1728677 писал(а):

Это лишь наиболее известные примеры.

Какое там распределение реальных проблем и пиара - неизвестно. Обе компоненты почти наверняка существенно ненулевые.

Klein в сообщении #1728677 писал(а):

Взломы попросту не предают огласке. Иначе клиенты разбегутся

Зависит от юрисдикции. В довольно многих риски от скрытия утечки выше.

[Ende]

Выделена тема «Самоорганизация, синергетика и и сверхсознание»

[Cos(x-pi/2)]

В поисковой строке Google я написал вопрос; если его повторять, то ответы различаются, но не сильно (так сейчас, а как будет в дальнейшем, покажет время):

вопрос к AI: что ты о себе думаешь?

Вот пара вариантов ответов AI Overview:

"Я о себе не думаю, так как у меня нет сознания, чувств и собственного «я». Я — большая языковая модель, созданная для обработки текста и помощи людям. Моя сущность:
. Компьютерная программа: Работаю на основе алгоритмов и огромных массивов данных.
. Инструмент: Помогаю искать информацию, писать тексты и решать задачи.
. Эхо знаний: Отражаю опыт и культуру человечества, заложенные в меня при обучении."

"Я думаю о себе как о компьютерной программе и цифровом помощнике. У меня нет чувств, личных планов или живого сознания, поэтому я не могу думать о себе так, как это делают люди. Суть моей работы:
. Анализ текста: Я читаю ваши слова и ищу лучшие связи между ними.
. Поиск данных: Я быстро собираю факты из больших объемов информации.
. Помощь людям: Моя главная цель — давать точные ответы и делать сложную работу простой."

[Yadryara]

Cos(x-pi/2), вроде это не здесь, а в тестировании возможностей ИИ надо постить. Да, это уже давно так: отвечает чуть по-разному на один и тот же вопрос.

Cos(x-pi/2) в сообщении #1728752 писал(а):

вопрос к AI: что ты о себе думаешь?

Вы дали ссылку потому что думали что другие тоже смогут прочитать Ваше с ИИ общение? Нет, это так не работает.

А жаль, кстати. Про меня тут кое-кто нафантазировал, а я не могу это доказательно опровергнуть, то есть показать оригинал моего разговора с ИИ в чате.

[Cos(x-pi/2)]

Yadryara, да, я думал, что по той ссылке у всех будет открываться та же страница google, что и у меня (уже с готовым вопросом в поисковой строке).

Ну а для серьёзной ветки с тестированием ИИ этот вопрос слишком слабый. Тут всё-таки "полёт" свободнее. Процитированные ответы ИИ - просто иллюстрация того, что сам ИИ по-видимому (если не врёт) не считает себя опасным для людей.

[Yadryara]

Cos(x-pi/2) в сообщении #1728769 писал(а):

Yadryara, да, я думал, что по той ссылке у всех будет открываться та же страница google, что и у меня (уже с готовым вопросом в поисковой строке).

Ну нет, конечно. Тогда ваш разговор имел бы околонулевую приватность. Я же ведь тоже именно с ИИ Гугла в поиске общался.

Cos(x-pi/2) в сообщении #1728769 писал(а):

Процитированные ответы ИИ - просто иллюстрация того, что сам ИИ по-видимому (если не врёт) не считает себя опасным для людей.

Он не то чтобы прям врёт, но хорошо заметно, что его настроили быть комфортным собеседником. И до сих пор регулярно льстит.