Социальные и прочие последствия от появления AGI и ASI

[Mikhail_K]

warlock66613 в сообщении #1728630 писал(а):

Удаляющийся потому что новый нейрослоп тяжелее отличить от настоящего контента, созданного людьми?

Нет, потому что сгенерированный контент может быть ничуть не менее "настоящим", чем созданный людьми. (Хотя мне кажется, что лучше всего, когда люди и ИИ - это соавторы в создании контента.)
Может и бредовым быть тоже. Тут всё зависит от качества модели и от поставленной перед ней задачи.

[Klein]

EUgeneUS в сообщении #1728627 писал(а):

Klein в сообщении #1728624 писал(а):

В середине 1960-х широкое распространение получили рок-трио: электрогитара, бас-гитара и ударные. Зачем собирать оркестр, если и так классно? Сколько было противников!

Да-да. А в 70-х эти рок-трио и рок-квинтеты записывали записи совместно со всякими мюнхенскими симфоническими оркестрами.
Казалось бы, зачем, "если и так классно".

И сегодня симфонические оркестры исполняют музыку, первоначально написанную рок-группами, и не только рок-группами. Вы предлагаете оставить одни симфонические оркестры и классику, а все остальные жанры убрать?
Попробуйте запретить каким-нибудь племенам бить в бубны, любителям электронной музыки - слушать её, а дальнобойщикам - шансон какой-нибудь. Одно время вся страна слушала Высоцкого. В чём, собственно, ваша мысль?

[Alex-Yu]

warlock66613 в сообщении #1728630 писал(а):

тяжелее отличить от настоящего контента, созданного людьми?

При этом еще и люди глупеют благодаря ИИ-контенту. Они же, люди, тоже нейросети (может чуть более совершенные) и тоже учатся на окружающем контенте. Скоро будет вообще не отличить.

[warlock66613]

Mikhail_K в сообщении #1728632 писал(а):

Нет, потому что сгенерированный контент может быть ничуть не менее "настоящим", чем созданный людьми.

Я не согласен. Неотличимым быть может, настоящим нет.

[Alex-Yu]

Mikhail_K в сообщении #1728632 писал(а):

Тут всё зависит от качества модели и от поставленной перед ней задачи.

Еще зависит и от человека. Мне по этому поводу припоминается шутка из старого советского научпоповского фильма: "Может ли быть машина умнее человека? Это смотря какой человек, а то бывает и мясорубка умнее".

[Mikhail_K]

warlock66613 в сообщении #1728635 писал(а):

Я не согласен. Неотличимым быть может, настоящим нет.

Это потому что у ИИ нет души, или почему?

Многое в окружающем мире создано не нами, а, например, природой. Оно от этого не становится "ненастоящим" или "мусорным".

Статус "сделано без ИИ" представляется мне чем-то аналогичным "изделиям ручной работы" или "полностью натуральным органическим продуктам без химии". Очевидно, что есть и будут ценители, которые всё это ценят, и даже которые считают всё прочее "ненастоящим". И пожалуй, хорошо, что сохраняются и будут сохраняться такие ниши - в них есть культурная ценность. Но это именно ниши, мейнстрим будет другим.

[warlock66613]

Mikhail_K в сообщении #1728638 писал(а):

Это потому что у ИИ нет души, или почему?

Я не знаю чего именно, но чего-то точно нет, чего-то важного.

-- добавлено через 2 минуты --

Mikhail_K в сообщении #1728638 писал(а):

Но это именно ниши, мейнстрим будет другим.

Я пока в это не верю. Я вижу, что выступления против ИИ усиливаются. Я думаю, что даже там где ИИ уже внедрился пойдёт откат после хайпа.

[Anton_Peplov]

Помнится, лет десять назад на форуме вдрызг поругались Munin и Magazanik. Первый считал, что когда-нибудь ИИ научится писать стихи не хуже Пушкина (а в те годы нейросетям, напомню, было далеко даже до самого слабенького графомана). Второй клялся всем святым, что никогда эта бездушная железяка не сможет и не достигнет. Поскольку объективных и проверяемых аргументов ни за ту ни за другую позицию не было, реплики обеих сторон пестрили ссылками на фундаментальную теорему "Ей-богу, так".

Сегодня нейросеть уровень графомана благополучно одолела, до Пушкина ей все так же далеко, а споры по этому поводу осмысленнее не стали.

[mihaild]

Цицерон в О дивинации писал(а):

Ибо чем еще дру­гим я могу боль­ше и луч­ше послу­жить государ­ству, неже­ли обу­че­ни­ем и вос­пи­та­ни­ем юно­ше­ства? В осо­бен­но­сти в наши вре­ме­на, когда нра­вы его дошли до такой сте­пе­ни рас­пу­щен­но­сти, что необ­хо­ди­мо при­ло­жить все уси­лия к тому, чтобы эту моло­дежь обуздать и укро­тить.

warlock66613 в сообщении #1728630 писал(а):

Это никак не делает его лучше, но делает всю ситуацию хуже, потому что отсеять мусор становится тяжелее

А если его сложно отсеять, то почему это мусор?

warlock66613 в сообщении #1728640 писал(а):

Я не знаю чего именно, но чего-то точно нет, чего-то важного

А откуда Вы это знаете?

[warlock66613]

mihaild в сообщении #1728642 писал(а):

А если его сложно отсеять, то почему это мусор?

Потому что Джон Кейдж (композитор) говорил "всё что мы делаем — это музыка". Переворачивая его высказывание: "всё что делаем не мы — не музыка". То есть всё что делают не люди — это не музыка, а равно не литература, не кино, не игры, не программный код.

-- добавлено через 3 минуты --

mihaild в сообщении #1728642 писал(а):

А откуда Вы это знаете?

В общем-то я и этого не знаю. Но пока предпочитаю действовать так, как будто знаю.

[Booker48]

Anton_Peplov в сообщении #1728641 писал(а):

Сегодня нейросеть уровень графомана благополучно одолела, до Пушкина ей все так же далеко, а споры по этому поводу осмысленнее не стали.

Не могу сейчас найти, лет 15 назад предлагался кем-то нетривиальный тест "Пушкин или Языков?"
10 небольших отрывков (по паре строк), нужно было, не гугля, определить кому эти строки принадлежат.
А когда сейчас этот тест пытался найти, наткнулся на статью "Языков или Пушкин? (о трех приписанных Пушкину стихотворениях)", из которой ясно, что литературно искушённые современники (Герцен и Огарёв) вполне себе приписывали Пушкину стихи другого поэта.
По-моему, до сих пор в сети идут споры о том, Лермонтову или некоему графоману принадлежат строки "Прощай, немытая Россия...".
Это я к тому, что иногда великими стихи делают не сами стихи, а обстоятельства их написания, или публикации, или обнаружения. То бишь нейросеть стихотворение напишет, и она же сопроводит его выдуманной историей, озвучит голосом Безрукова, положит на музыку и организует ротацию на FM-радио (или всплывающую рекламу на популярных интернет-каналах).
Глядишь, мы и прозреем: стихи-то - гениальные!

[Klein]

warlock66613 в сообщении #1728625 писал(а):

Klein в сообщении #1728622 писал(а):

«Пусть расцветают сто цветов, пусть соперничают сто школ»

Проблема в том, что ИИ не способен создавать цветы, только нейрослоп. Поэтому цветы становится труднее найти в потоке мусора.

Цветы мы отличаем от не-цветов сравнивая их со всем остальным.
То, что при написании текста и оформлении книги использовалась LLM, вовсе не означает, что такая книга априори хуже или содержит менее ценную информацию, чем книга, при создании которой LLM не использовалась.
LLM могут использовать по разным причинам. Человек может просто не уметь писать, структурировать текст и оформлять материал на уровне, необходимом для публикации книги. Скажем, опытный пчеловод, проработавший в пчеловодстве 50 лет и вышедший на пенсию, обладает знаниями, которыми хочет поделиться. Нанять людей, способных изложить его знания и оформить их в виде книги, дорого, а будет ли эта книга продаваться - неизвестно. Это один из немногих примеров.
Все некачественное и невостребованное само собой отсеется, как это происходит со всем остальным. По мере совершенствования LLM публикация книг станет доступнее широкому кругу людей. Вероятно, рост общего числа книг приведет и к увеличению числа изданий не самого высокого качества. Но это, опять-таки, не означает, что все такие книги будут плохими и не будут содержать новой полезной информации для читателя.

[Klein]

Компания, поставляющая электроэнергию и газ, сегодня прислала письмо о возможном инциденте в сфере безопасности данных. Рыночная капитализация компании - 15 млрд долларов, ценные бумаги торгуются на бирже, а число зарегистрированных клиентских счетов у компании - 4,7 млн. Давно предупреждали крупные компании, что с выходом новых версий моделей подобные инциденты с информационной обязательно будут происходить.
Банковские карты и банковские счета не затронуты. В каждом клиентском счете указаны номера счетчиков электроэнергии и газа, привязанных к конкретному адресу.

В письме:
«В настоящее время мы расследуем возможный инцидент в сфере безопасности данных, который мог привести к несанкционированному доступу к информации наших клиентов.
В качестве меры предосторожности мы связываемся со всеми клиентами, пока тщательно расследуем возможные последствия инцидента.
Мы не считаем, что инцидент затронул сведения о банковских картах или банковских счетах клиентов.
Мы уведомили о возможном инциденте в центр кибербезопасности, Федеральную полицию и Управление по вопросам информации и продолжаем взаимодействовать с ними.
Мы искренне приносим извинения за неопределённость, которую эта ситуация может вызвать во время расследования.
По мере необходимости мы будем предоставлять дополнительную информацию».

[mihaild]

Klein в сообщении #1728660 писал(а):

Давно предупреждали крупные компании, что с выходом новых версий моделей подобные инциденты с информационной обязательно будут происходить

А какая связь с ИИ в данном случае? Подобные инциденты регулярно происходят уже давно.

[Klein]

mihaild в сообщении #1728665 писал(а):

Klein в сообщении #1728660 писал(а):

Давно предупреждали крупные компании, что с выходом новых версий моделей подобные инциденты с информационной обязательно будут происходить

А какая связь с ИИ в данном случае? Подобные инциденты регулярно происходят уже давно.

Атаки происходили и раньше, но вы упускаете качественное изменение, связанное с применением новых моделей ИИ. Новые модели ИИ конечно не изобрели киберпреступность. Они снижают стоимость атак, повышает их скорость и масштаб. Последние модели ИИ не превратят новичка в квалифицированного взломщика. Но поиск уязвимостей, подготовка эксплойтов и масштабирование атак становятся дешевле и доступнее. Крупные разработчики ИИ предупреждали об этом уже не первый месяц, и продолжают предупреждать. Логика примерно та же, что и в программировании. С помощью ИИ недостаточно опытный разработчик иногда может за три дня создать программу, на которую у команды прежде ушли бы месяцы работы. Новейшие модели, подключенные к агентным программным оболочкам, аналогичным образом ускоряют и масштабируют кибератаки. Последние модели упрощают поиск уязвимостей. Компании-разработчики прежде всего пишут об использовании своих инструментов для киберзащиты. Но надо понимать, что эти инструменты имеют двойное назначение. Open AI по теме начал писать еще в декабре прошлого года: https://openai.com/index/strengthening- ... esilience/