вероятностн и семантич - прагматич подходы к информации

[eugrita]

Хотелось бы уяснить основные подходы к информации и ее измерению теоретической информатики.
Читая школьные и не только учебники (например, Макаровой) мы сталкиваемся с 3 подходами
к понятию информации:
1)Алфавитный (объёмный) - информация оценивается только объёмом ее представления без смысла
2)Семантический -попытка оценить смысл (семанитку) (теория Карнапа-Бар Хилела, и родств), представление знаний в виде семантической сети и оценка ее сложности
3)Прагматический (тезаурусный) информация и ее количество оценивается с точки зрения конкретного человека или системы, ее тезауруса
--------------------------------------------------------------
С другой стороны не менее известна другая классификация
1)Алфавитный подход
2)Вероятностный подход - информация как уменьшение неопределенности , разности энтропий.
-------------------------------------------------------------------------------------------
Вот тут и хотелось уточнить:
Алфавитный - он всегда на основе объема кодов - не зависит от субъекта.
Но вот когда вводим энтропию как меру неопределенности знаний сразу возникает вопрос:
каких знаний? Я делю знания на обективные - современный научный уровень представлений
и субъективные - степень владения конкретным лицом частью этих знаний. (Например, есть наука математика, и есть конкретные ВУЗовские и школьные курсы, освещающие не все сложные вопросы, избегающие часто доказательства теорем. Т.е проекция знания на уровень курса. Дальше - 2-я проекция уже этого курса на мозги студента: что-то пропустил, что-то не так записал, не понял - получается еще более приближенное полузнание.
Конечно это все не относится к примитивным задачкам информатики типа угадать загаданное число от 1 до 100 Тут о разнице знаний говорить не приходится - понимают все.

Получается, если знания объективные то неопределенность и ее мера как разность энтропий
скорее ближе к семантическому подходу, а если рассматриваем неопределенность ситуации на уровне знаний, тезауруса конкретного лица - то скорее прагматический, и то если этот человеку вообще нужно осознавать эту свою неопределенность.
Соответственно процесс познания как изменения энтропий , условная энтропия
Почему-то понятие условная энтропия применяют узко в контексте передачи источника случайных символов
Основные вопросы
1)соотношение вероятностного подхода с 1 стороны и семантического или прагматического с другой
2)Можно ли рассматривать более широкое применение энтропии обычной и условной - не только в технике но и в оценке знаний и где с этим можно познакомиться в популярном подробном изложении?

[eugrita]

Хотел добавить что вероятностный подход в некоторых материалах называют "Синтаксическая мера информации "
А также "содержательный подход" что запутывает терминологию. Ведь содержательный в русском языке синоним семантический
А это как мы видели- разные вещи.
А из языкознания знаем что синтаксис и семантика - разные даже противоположные вещи
Вот еще "Алфавитный подход используется для измерения количества информации в тексте, представленном в виде посл-ти символов некоего алфавита".
Делаю вывод что вероятностный подход может применяться к сообщениям из алфавита, (все задачки на оценки информационных весов сообщений с разновероятными символами алфавита).
Но тогда вероятностный подход может применяться как к сообщениям из алфавита так и к семантическим мерам?
т.е исходно-обсуждаемые классификации просто несопоставимы -в разной плоскости
Энтропии по барабану какие у нее на входе вероятности: то ли символов алфавита, то ли какие-то семантические или прагматические меры ТАК ЛИ ЭТО?
Для цитированной выше задачки на угадывание числа из диапазона выдумали термин "комбинаторная мера информации"
в такой терминологии немудрено запутаться

[eugrita]

Прошу снять мою тему topic131213.html
При прочтении себя со стороны, вижу необходимость сильного редактирования текста
чтобы читающие понимали суть моих вопросов и цитируемую терминологию

[Mihaylo]

Имеет смысл говорить только о прагматической информации. Семантическая информация - это (если кратко выразиться) совокупность прагматической информации и непрагматической. Непрагматической информации (бесполезной) всегда очень много, чуть ли не бесконечное количество. Иными словами, измерять семантическую информацию нет никакого смысла, это какое-то искусственное понятие, данное на уровне бытовых представлений. Можно обойтись без него. Просто расширяйте границы прагматики (интересов) и тогда в одном и том же сообщении будет больше смысловой (прагматической) информации.

[ozheredov]

eugrita

Посчитайте плииз количество информации в строке «Мама мыла раму». Какую именно информацию здесь посчитать можно, а какую нельзя? Если никакую нельзя, я могу привести текст / корпус текстов неограниченного объёма. Какими свойствами должен обладать текст или корпус текстов, для того чтобы вы смогли подсчитать на нем хотя бы один вид информации?

[GAA]

Тема перемещена из форума «Computer Science» в форум «Карантин»
по следующим причинам:
По просьбе ТС для уточнения.

Не создавайте, пожалуйста, новую ветку на близкую тему.

(Приношу извинения участнику eugrita за несвоевременность реакции на пожелание. В ветке уже появились ответы участников. В таких случаях, как правило, ветка не удаляется.
На добавленные участниками сообщения, пожалуйста, в Карантине не отвечайте, чтобы окончательно не нарушить логику развития темы. Добавьте ответы на эти сообщения после возвращения темы из Карантина.

Чтобы своевременно модераторы обратили внимание на Ваше пожелание, пожалуйста, используйте механизм «жалоб».)

Исправьте все Ваши ошибки и сообщите об этом в теме Сообщение в карантине исправлено.
Настоятельно рекомендуется ознакомиться с темами Что такое карантин и что нужно делать, чтобы там оказаться и Правила научного форума.