Будущие перспективы ИИ (возможно, 4-я волна ИИ)

[Rasool]

На SmartDev-2023 говорилось о том, что дальнейший прогресс в области искусственных сетей уперся в стену, например, современные нейросети не заточены под математические операции, логические рассуждения, планирование и т.д. Возможен ли тут уход в сторону дальнейшего исследования человеческого мозга, применения бионики? Например,

Цитата:

Некоторые подходы в глубоком обучении возникли в результате достижений в области нейронаук, успехов интерпретации обработки информации, построения коммуникационных моделей в нервной системе, таких как нейронное кодирование, связанное с определением отношения между стимулом и нейронными реакциями и взаимосвязи электрической активности между нейронами в головном мозге.

(Википедия)
Так называемая "третья волна ИИ" исчерпала себя, нужно ждать прихода "четвертой волны"? И что будет с приходом "четвертой волны ИИ" - не отменит ли она результаты "третьей волны"?

[Mihaylo]

Мы так все ждали GPT-5, но вдруг стало известно, что Сэм Альтман и ряд старших научных сотрудников уволились из OpenAI буквально сегодня. Поспособствовал этому Илья Суцкевер, родившийся в Нижнем Новгороде.

[Mental]

(Оффтоп)

Mihaylo в сообщении #1618619 писал(а):

Поспособствовал этому Илья Суцкевер, родившийся в Нижнем Новгороде.

Ну, это уже игры на выживание начались (подраздел теории игр).

[Rasool]

Mihaylo в сообщении #1618619 писал(а):

Мы так все ждали GPT-5, но вдруг стало известно, что Сэм Альтман и ряд старших научных сотрудников уволились из OpenAI буквально сегодня. Поспособствовал этому Илья Суцкевер, родившийся в Нижнем Новгороде.

(Оффтоп)

Чем Альтман не угодил Суцкеверу?

[Mihaylo]

Хронология отставки Альтмана за 20 минут в Google Meet из OpenAI
https://habr.com/ru/news/774846/

[Утундрий]

Бают, что Сэм Альтман станет мелким и мягким.

[mustitz]

Возможен, но для этого человечеству надо формализовать нужный объём данных и доказательств для обучения. Например, в CoQ.

[Mental]

(Шоу продолжается)

Mihaylo в сообщении #1618619 писал(а):

Мы так все ждали GPT-5, но вдруг стало известно, что Сэм Альтман и ряд старших научных сотрудников уволились из OpenAI буквально сегодня.

20 ноября стало известно, что большинство сотрудников OpenAI тоже против решения совета директоров. 505 из 700 работников компании обратились с письмом к руководству компании. Они потребовали от совета директоров восстановить Сэма Альтмана на посту гендиректора, а затем уйти в отставку. В ином случае сотрудники пригрозили уволиться и перейти в Microsoft, в которой заверили, что для каждого из них найдётся рабочее место.
https://www.theverge.com/2023/11/20/239 ... sam-altman

[Rasool]

Сага OpenAI продолжается.

[Rasool]

Sam Altman вернулся в OpenAI. Интересно, что ожидает Илью Суцкевера?

[Утундрий]

Rasool в сообщении #1619320 писал(а):

что ожидает Илью Суцкевера?

Муск за него вписался, так что пощадят. Но создадут невыносимые условия и где-то через полгода он сам тихо и мирно уволится.

[Rasool]

Утундрий в сообщении #1619325 писал(а):

Rasool в сообщении #1619320 писал(а):

что ожидает Илью Суцкевера?

Муск за него вписался, так что пощадят. Но создадут невыносимые условия и где-то через полгода он сам тихо и мирно уволится.

Интересно, куда он потом пойдет? Вернется в Google?

[Утундрий]

Rasool в сообщении #1619338 писал(а):

Интересно

Не интересно.

Вообще, вся эта "Санта-Барбара" глубоко неинтересна.

[Rasool]

«GPT-4 может стать последним крупным достижением»: CEO OpenAI в апреле заявил, что стратегия компании обречена.

[Sender]

https://www.reuters.com/technology/sam-altmans-ouster-openai-was-precipitated-by-letter-board-about-ai-breakthrough-2023-11-22/

Цитата:

Nov 22 (Reuters) - Ahead of OpenAI CEO Sam Altman’s four days in exile, several staff researchers wrote a letter to the board of directors warning of a powerful artificial intelligence discovery that they said could threaten humanity, two people familiar with the matter told Reuters.

The previously unreported letter and AI algorithm were key developments before the board's ouster of Altman, the poster child of generative AI, the two sources said. Prior to his triumphant return late Tuesday, more than 700 employees had threatened to quit and join backer Microsoft (MSFT.O) in solidarity with their fired leader.

The sources cited the letter as one factor among a longer list of grievances by the board leading to Altman's firing, among which were concerns over commercializing advances before understanding the consequences. Reuters was unable to review a copy of the letter. The staff who wrote the letter did not respond to requests for comment.

After being contacted by Reuters, OpenAI, which declined to comment, acknowledged in an internal message to staffers a project called Q* and a letter to the board before the weekend's events, one of the people said. An OpenAI spokesperson said that the message, sent by long-time executive Mira Murati, alerted staff to certain media stories without commenting on their accuracy.

Some at OpenAI believe Q* (pronounced Q-Star) could be a breakthrough in the startup's search for what's known as artificial general intelligence (AGI), one of the people told Reuters. OpenAI defines AGI as autonomous systems that surpass humans in most economically valuable tasks.

Given vast computing resources, the new model was able to solve certain mathematical problems, the person said on condition of anonymity because the individual was not authorized to speak on behalf of the company. Though only performing math on the level of grade-school students, acing such tests made researchers very optimistic about Q*’s future success, the source said.