Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




На страницу Пред.  1 ... 9, 10, 11, 12, 13
 Re: Что такое сознание?
Аватара пользователя
Здравствуйте, господин Magazanik. Вас легко узнать. Рад видеть в добром здравии.

Позвольте заметить вот что. Действительно, каждый файл - в том числе изображение - в конечном счете есть последовательность нулей и единиц. Но это, как выражаются программисты, на низком уровне. "Низкий" уровень здесь не в том смысле, что плохой, а в том, что фундаментальный. Говоря же о человеке, Вы рассматриваете данные на высоком уровне - как образ, который Вы созерцаете. Такое сравнение некорректно. Если уж сравнивать восприятие человека и машины, нужно сравнивать данные на одном уровне организации. С другой стороны, о том, что представляют собой данные в нашей нервной системе на низком уровне - там, где у машины нули и единицы - науке кое-что известно. Физически это нервные импульсы, наиболее распространенные из которых - потенциалы действия. Которые тоже в определенном смысле единицы, поскольку все потенциалы действия одинаковы. Настолько одинаковы, что по по виду потенциала действия невозможно сказать не только в кодировке какой информации он участвует, но даже какому биологическому виду принадлежит. Правда, такой вид имеют данные в процессе обработки. Хранятся они иначе: как синаптические веса. Не пытаюсь сказать, что мозг работает "на нулях и единицах", но сравнивать низкие и высокие уровни обработки информации в любом случае некорректно.

 Re: Что такое сознание?
Anton_Peplov в сообщении #1672112 писал(а):
Действительно, каждый файл - в том числе изображение - в конечном счете есть последовательность нулей и единиц
Последовательность блоков из нулей и единиц. Биты в блоке, конечно, пронумерованы, но хранятся и часто обрабатываются параллельно.

Конечно, вы правы: на каждом уровне нужны свои модели, и не важно, как именно что-то высокоуровневое реализуется. Кодировки тех же файлов могут быть разными.

 Re: Что такое сознание?
Marcel в сообщении #1672106 писал(а):
Юзер Serg53 выражается невнятно, но содержательно. Невнятность извиняется тем, что точной терминологии, похоже, нет ни у кого. Имени нет, а явление есть, некоторые его видят.

Глупость. Если утверждаешь нечто бесполезное (неприменимое на практике), да еще неточное, да еще неверно интерпретируемое, то надо помолчать в тряпочку. Эка вас угораздило. На форуме зарегаться, чтобы все непременно узнали о вашей глупости?!

 Re: Что такое сознание?
Я ещё в студенческие годы обдумывал опыт, наподобие следующего..
Предположим, я сам захотел стать ИИ, или другими словами, "породниться" как бы с ним. :)
И согласился на следующую процедуру-
в моём мозгу, какой то гипотетический аппарат будущего, способный оперировать атомами, вот просто берёт,
и один-за-одним, заменяет мои биологические нейроны на искусственные (из кремния и других материалов), а искусственные
работают так, что по входным сигналам, формируются те же выходные сигналы, которые могут быть так же интерпретированы
биологическими нейронами. То есть заменив например, 50% биологических нейронов на искусственные, функциональность
"био-ИИ" мозга должна сохраняться. Заменяются также все синапсы, связи и т.д.

Возникает вопрос, после всей этой операции, заменив 100% мозга на искусственный, это "Я" буду, т.е. моё сознание или нет?

1) Предположим сначала первый вариант, что якобы нет, это буду не-Я.
То есть не моё сознание. Значит, где то "по пути", я или умру, или куда-то уйду (может куда уходят и умершие),
и так как это необязательно смерть, в обычном понимании, назову этот процесс "разложением".
То есть вот было сознание в этом био-ИИ мозгу (наполовину био, наполовину ИИ), и вот его уже нет.
У сознания одна из важнейших характеристик, отличающих "живое" от "неживого", это способность чувствовать.
Чувствовать например боль, удовольствие.
Так вот она, эта способность либо есть, либо её нет, и ничего промежуточного тут быть не может.
Мы считаем что камень не способен чувствовать, т.к. неживой, человек- способен, а эмбрион- неизвестно способен ли.

Значит, в процессе такого замена мозга на искусственный, будет, назовём так, "N-N+1"-й переход,
означающий что после N-го атома, до замены очередного, N+1-го атома, ещё было сознание со способностью чувствовать,
а а после замены N+1-го атома, уже нету сознания и способности чувствовать.

То есть, в этой циклической цепочке превращений (или другими словами, перестановок),
существует некий N+1 -й атом, который как раз и вызывает это "разложение",
что приводит к выводу, (по сути , доказывает) что сознание - это что то неделимое должно быть.
Или какой то простейший атом, точнее даже протон, или другая элементарная частица,
или что-то нам неведомое и пока неизвестное, но именно неделимое по своей сути!

2) Предположим теперь второй вариант, что, это буду Я. После такой процедуры.
Но в таком случае, "Я" там и без всякой подобной операции, мог бы оказаться!
Но не оказываюсь, потому что сознание как бы "прицеплено" к нынешнему биологическому мозгу,
как бы "сидит там", или связано. И вот эту неделимую сущность сознания, если "отцепить" от мозга,
и "прицепить" к нейропроцессарам, то есть к ИИ, то я там тоже смогу оказаться,

PS Ещё интересно, что будет если не заменять, а просто ПРИСОЕДИНЯТЬ искусственные нейроны,
сохраняя и биологический мозг. По какому то каналу они смогут обмениваться с ИИ, и если "канал" достаточно
широкий, то человек сознательно станет чувствовать, сверх-возможности ИИ, например перемножать 100-значные
числа за секунды, или выучить иностранный язык за минуту?

 Re: Что такое сознание?
Skipper
Ответы легко находятся, если поразмышлять над парадоксом "корабль Тесея" и над экспериментом, что произойдет, если по одному биту портить в операционной системе, а также и наоборот, если будем по 1 биту добавлять с нуля, то когда набор битов станет операционкой.

 Re: Что такое сознание?
Мне кажется, в этой дискуссии постоянно пересекаются три разные вещи: регистрация и обработка информации, модель самого себя и субъективный опыт.

Система может принимать сигнал, изменять внутреннее состояние, строить модель среды, использовать слово «я» и правильно отвечать на вопрос о собственном имени. Всё это функционально проверяемые способности. Но наличие таких функций вообще не доказывает, что для системы существует какое-либо переживание происходящего.

Для обозначения качественной стороны сознательного опыта используется понятие квалиа: каково видеть красный цвет, слышать звук, испытывать боль, тепло, страх.

Дырокол реагирует на рычаг, фотодатчик — на свет, нейросеть — на входные данные. Причинная реакция сама по себе не означает, что для системы существует то, как эта реакция ощущается.

Человек, полностью слепой от рождения, обладает сознанием, но не имеет зрительного переживания красного. При этом он может знать слово «красный», понимать отношения между цветами, рассуждать об их свойствах. Достаточно богатое понятийное знание о цветах может сформироваться без зрительного опыта. Однако знание о цвете и зрительное переживание цвета — разные вещи.

Поэтому, на мой взгляд, сознание нельзя отождествить исключительно с регистрацией различий. Отсутствие определённой модальности чувственного опыта не означает отсутствия сознания. С другой стороны, способность регистрировать различия ещё не устанавливает наличия переживания: фотодатчик способен различать два диапазона излучения, но из этого не следует наличие у него квалиа — самого переживания цвета.

При восприятии внешнего события можно условно выделить три уровня:

  1. Событие во внешнем мире.
  2. Регистрация различия системой.
  3. Субъективное переживание зарегистрированного.

Событие может причинно воздействовать на органы чувств и запускать регистрацию. Но наличие сознательного опыта не зависит от доступности каждой отдельной модальности: слепота лишает зрительного опыта, а не сознания вообще.

Краеугольный вопрос находится между двумя последними уровнями: каким образом регистрация и обработка происходящего становятся переживанием происходящего? И далее: каким образом внутри этого переживания складывается позиция субъекта, который относит происходящее к себе?

То же относится к самореференции. Если ChatGPT «понимает», что пользователь называет его «Джипити», это показывает способность соотнести слово с некоторой ролью в текущем диалоге — фактически с моделью собственного положения в структуре взаимодействия.

Самореференция лишь свидетельствует о наличии в модели в том числе и контекста наблюдателя. Но сама по себе логическая самореференция ничего не сообщает о наличии переживаемого «я есть».

Более того, сознание человека, на мой взгляд, не тождественно ни личности как активному субъекту, ни самому акту восприятия. Я допускаю, что сознание может например галлюцинировать или же сохраняться как переживание квалиа но без привычного, устойчивого личностного «я», которое человек воспринимает как автора собственных действий.

Приведу три примера.

  1. Галлюцинации. Человек может видеть иллюзию, галлюцинацию или переживать сон. Представляемого объекта может не существовать, тогда как само переживание существует. Следовательно, сознание нельзя однозначно определить как способность правильно различать происходящее во внешнем мире.
  2. Деперсонализация-дереализация. Человек продолжает действовать и переживать происходящее, но собственное тело и поступки могут восприниматься как чужие — словно он наблюдает со стороны за действующим «биороботом». Переживание сохраняется, а привычное чувство «это я действую» нарушается.
  3. Диссоциативное расстройство идентичности. У одного человека могут сменяться различные состояния личности вместе с самоощущением и доступными воспоминаниями. Устойчивая личностная организация здесь нарушена, однако это не равнозначно отсутствию сознательного опыта.

Феномен сознания не исчерпывается устойчивой личностью и привычной позицией субъекта-наблюдателя. Личностная организация может изменяться, чувство авторства действий — нарушаться, а переживание происходящего сохраняться.

Отсюда моя позиция: сознание включает наблюдателя как одну из своих функций и форм организации. Наблюдатель не является в структуре сознания первичным основанием существования сознания.

Последовательность уровней я представляю так:

Живое → сознание → квалиа → наблюдатель.

Живое составляет основу. Сознание связано со способностью переживать происходящее. Квалиа выражают качественное содержание этого переживания. Наблюдатель возникает как позиция внутри сознательного опыта, из которой выделяются различия, сопоставляются состояния и организуется отношение к происходящему.

Сознание может ошибаться относительно мира и всё равно переживать происходящее. Соответственно, я допускаю и обратную возможность: механизм может правильно регистрировать изменения мира, не обладая переживанием этих изменений.

Эмпирической отправной точкой для такого рассуждения служит сознательный опыт живых организмов. Поэтому я исхожу из рабочей гипотезы: сознание связано с самой живой организацией системы, а сознательное состояние предполагает наличие квалиа.

Есть и исследования, позволяющие поставить вопрос о конкретных физических механизмах, влияющих на сознательное состояние.

В опытах с изотопами ксенона — химически малоактивного благородного газа, используемого как анестетик, — у мышей обнаружили различия в анестетическом действии. Изотопы ${}^{129}\mathrm{Xe}$ и ${}^{131}\mathrm{Xe}$ с ненулевым ядерным спином оказались менее эффективными, чем ${}^{132}\mathrm{Xe}$ и ${}^{134}\mathrm{Xe}$ с нулевым спином. При этом их рассчитанная поляризуемость была одинаковой.

В опыте не измерялись сами квалиа. Критерием служила потеря рефлекса выпрямления, а ксенон исследовался на фоне другого анестетика.

Если различие действительно обусловлено ядерным спином, то механизм анестетического действия чувствителен к квантовой степени свободы.

Таким образом устройство нейронных связей участвует в организации восприятия и поведения, но сами физические процессы, лежащие в основе сознательного состояния, могут включать и квантовые механизмы. Конечно, утверждать по этому эксперименту, что сознание «находится на квантовом уровне», нельзя. Однако это исследование веское основание не исключать такие механизмы.

С учётом различия между сознанием, квалиа и личностной организацией разговор о формализации имеет смысл разделить на две области.

Первая:

Почему вообще существует субъективное переживание и какие физические процессы обеспечивают наличие квалиа?

На этот вопрос у науки пока нет вообще нет общепринятого ответа, кроме того, что сознание достоверно обнаружено только у живой материи, и что сознание не тождественно личности в принципе.

Вторая:

Какую часть взаимодействия сознательного существа с миром можно описать формально?

Эта задача гораздо определённее. Для её анализа можно выделить структуру процесса различения: условия, при которых нечто в опыте оказывается различённым, сохраняется и может быть использовано на следующем шаге восприятия.

Здесь необходимо различать два плана.

Феноменологический относится к самому факту переживания. Существует субъект, которому происходящее каким-то образом дано. Цвет видится, звук слышится, боль ощущается. Качественная сторона такого опыта — квалиа. Их физическая природа в предлагаемой модели не постулируется и не объясняется.

Операционно-логический относится к структуре различений внутри опыта. Что отделено от чего? Что изменилось? Что сохранилось? Каким образом результат одного акта остаётся доступным наблюдателю при следующем? И что в такой формализации вообще следует называть наблюдателем?

Например, я смотрю на стол. Затем предметом внимания может стать моё суждение о столе: почему я считаю его деревянным? Следующим предметом может стать способ, которым я пришёл к этому суждению.

Предыдущая позиция суждения каждый раз может стать содержанием нового наблюдения. Но текущая позиция, из которой совершается новый акт, выполняет качественно иную роль по отношению к рассматриваемому содержанию.

Отсюда различие между образом наблюдателя и текущей позицией наблюдения.

Глаз способен видеть окружающее, но непосредственно самого себя он не видит. В зеркале ему доступен образ глаза — проекция среди остальных объектов зрения. Это аналогия различия между действием и его представленным содержанием.

Я могу представить себя, описать себя, вспомнить своё предыдущее состояние и сделать его предметом анализа. Но такое описание уже находится внутри наблюдаемого содержания. Как только предыдущая позиция наблюдателя становится объектом, наблюдение уже производится из следующей позиции того же наблюдателя.

Нельзя поместить наблюдателя внутрь той же сцены просто ещё одним предметом и сохранить за ним ту же функцию. Получится не сам наблюдатель, а его очередное представление.

Глаз способен видеть окружающее, но непосредственно самого себя он не видит. В зеркале ему доступен уже образ глаза — проекция, находящаяся среди остальных объектов зрения.

При этом различие роли наблюдателя и наблюдаемого содержания не выводит наблюдателя за пределы сознания: оба принадлежат сознательному опыту, но занимают в его организации разные места.

Близкий мотив есть в теории познания Иммануила Канта. Разрозненные представления — звуки, предметы, мысли — образуют связный опыт одного субъекта постольку, поскольку могут сопровождаться единым «я мыслю». Это «я» не является ещё одним предметом среди воспринимаемых вещей. Оно выполняет роль условия, связывающего различные представления в опыт одного субъекта, — трансцендентального единства апперцепции.

Отсюда рабочее определение для формализации:

Наблюдатель — это роль, которая связывает смену состояний с сохранением общего контекста. Его образ или описание может стать объектом наблюдаемой сцены, но сама роль наблюдения не сводится к ещё одному состоянию этой сцены.

Наблюдатель — это роль, которая связывает смену состояний с сохранением общего контекста. Его образ или описание может стать объектом наблюдаемой сцены, но сама текущая позиция наблюдения не является ещё одним её состоянием.

Это определение выделяет конкретную структуру, которую уже можно исследовать независимо от решения трудной проблемы сознания.

Что должно сохраняться, чтобы два последовательных состояния воспринимались как части одного связного опыта? Как результат предыдущего различения становится доступен следующему? Что меняется, а что остаётся общим при смене содержания?

Подобный способ постановки вопроса не чужд физике. Начиная с принципа относительности Галилея и его мысленного опыта с кораблём, физическое описание всё явнее связывалось с системой отсчёта наблюдателя; позднее эта линия получила строгие формы в теории относительности, а проблема отношения измерения и наблюдаемого состояния — в квантовой теории. Речь каждый раз идёт о разных математических понятиях наблюдателя, но общий методический мотив один: указать, относительно какой позиции производится описание и что сохраняется при её изменении.

Таким образом сознание в математике можно исследовать через наблюдателя как структуру различения, изменения и сохранения, используя сознательный опыт как исходный мотив построения.

 Re: Что такое сознание?
Сравните с моим простым: самосознание - это понимание, где своё, а где чужое. :lol: Сознание - это способность следить за несколькими объектами, разграничивать их, различать принадлежность последствий, действий, результатов этих объектов.

- Это ты придумал стихотворение?
- Нет, это не моё.
- Сознательный ты.

Поверьте, никакие релятивистские или квантовые эффекты нафиг не влияют на понимание ([само]сознание). У вас, у философов, это обязательные пунктики? А что было 100 с лишним лет назад, когда эти эффекты были неизвестны? А что, если мы откроем крак-эффекты макаронного монстра через год?

-- добавлено через 16 минут --

Igor_Zhuk в сообщении #1735085 писал(а):
решения трудной проблемы сознания

Нет ничего трудного в сознании. Если повторять это глупое заклинание каждый раз, никакой сложности не появится.)))

 Re: Что такое сознание?
Mihaylo в сообщении #1735087 писал(а):
У вас, у философов, это обязательные пунктики? А что было 100 с лишним лет назад, когда эти эффекты были неизвестны? А что, если мы откроем крак-эффекты макаронного монстра через год?


Да, действительно, не то что ваши слова – образцовый ответ сознательного математика на научном форуме.


Mihaylo в сообщении #1735087 писал(а):
Нет ничего трудного в сознании. Если повторять это глупое заклинание каждый раз, никакой сложности не появится.)))


Ну да, действительно, зачем трудиться хотя бы принципе что-нибудь узнать о «трудной проблеме сознания» Девида Чалмерса. Для вашего сознания, кажется вообще никаких сложностей нет в жизни…

 Re: Что такое сознание?
Ну как физика меня разгромили недавно)

-- добавлено через 14 минут --

Igor_Zhuk
Решили ли трудную проблему OpenAI и Anthropic или они чем-то другим занимаются?

-- добавлено через 3 минуты --

Igor_Zhuk в сообщении #1735091 писал(а):
зачем трудиться

А зачем вы трудитесь? Самая трудная проблема для философов - это понять, что нет смысла утруждать что-либо, покудова в этом нет нужды.

 Re: Что такое сознание?
Mihaylo в сообщении #1735092 писал(а):
Ну как физика меня разгромили недавно)

-- добавлено через 14 минут --

Igor_Zhuk
Решили ли трудную проблему OpenAI и Anthropic или они чем-то другим занимаются?

-- добавлено через 3 минуты --

Igor_Zhuk в сообщении #1735091 писал(а):
зачем трудиться

А зачем вы трудитесь? Самая трудная проблема для философов - это понять, что нет смысла утруждать что-либо, покудова в этом нет нужды.


Нейросети, кстати, как никто другой нуждаются в исследованиях по формализации сознания и вычленения принципа наблюдателя. Но пока в архитектуру сетей внесли только идею механизма внимания.
Ну и очень отдаленный мотив как маршрутизатор в архитектурах Mixture of Experts (MoE)

Кстати, именно идея внимания (статья «Attention Is All You Need» 2017 от команды Google Research) и произвела революцию в нейросетях - она лежит в основе всех современных LLM на технологии трансформеров.

Во-первых я не философ, во вторых тружусь потому что считаю это направление очень перспективным в математике (строгая формализация, никакой философии) именно для нейростей.

 Re: Что такое сознание?
Igor_Zhuk в сообщении #1735095 писал(а):
произвела революцию в нейросетях

Да хрен его знает, что революция, а что нет.
1. Чуть раньше, в 2012 году, революцию совершило понимание, что надо просто больше данных.
2. Потом, да, 2016 - трансформеры.
3. Потом 2020-й - опять же понимание, что чем больше данных, тем пропорционально лучше интеллект.
4. Потом возникло понимание, что данных не так уж и много (есть верхний предел), но так как это была деволюция, поэтому научных работ не было... Дату точно не скажу, год 2022-й наверное.

Смысла в этой историографии нет, на вопрос сознания так и никто предметно не ответил, кроме меня. Ваша портянка с терминами ничего не решает. А я одним-двумя предложениями определил всё.))) Главное - придерживаться этих идей.

-- добавлено через 3 минуты --

Я про вот это:
Mihaylo в сообщении #1735087 писал(а):
самосознание - это понимание, где своё, а где чужое. :lol: Сознание - это способность следить за несколькими объектами, разграничивать их, различать принадлежность последствий, действий, результатов этих объектов.


-- добавлено через 6 минут --

Например, мой кот знает хорошо меня, мою семью и нескольких моих соседей, а также за домашним пылесосом, краном с водой, окнами, мисками, лотками, игрушками - таково его сознание. Люди способны следить за объектами в 1000 раз шире, эта способность предполагает помнить имена родственников, соседей, коллег, друзей, помнить привычки каждого, догадываться, кто нагадил в подъезде...

 Re: Что такое сознание?
Mihaylo в сообщении #1735096 писал(а):
Например, мой кот знает хорошо меня, мою семью и нескольких моих соседей, а также за домашним пылесосом, краном с водой, окнами, мисками, лотками, игрушками - таково его сознание. Люди способны следить за объектами в 1000 раз шире, эта способность предполагает помнить имена родственников, соседей, коллег, друзей, помнить привычки каждого, догадываться, кто нагадил в подъезде...


«Мое» или «чужое» предполагает прежде всего наличие субъекта, личности. Не дай бог у вас было бы диссоциативное расстройство идентичности то две личности одного сознания как бы делили между собой вашего кота? Кроме того, потеря памяти после которой вы не будете «помнить имена родственников, соседей, коллег, друзей, помнить привычки каждого, догадываться, кто нагадил в подъезде…» вовсе не лишает вас сознательности. Память проявление сознания, но не само сознание, как ваши волосы часть вас, но лишившись волос вы не лишаетесь себя и не перестаете быть собой, лишь изменяетесь в проявлении, не более.

Вы видимо вступая в дискуссию не потрудились даже прочесть мой пост выше.

Цитата:
Я допускаю, что сознание может например галлюцинировать или же сохраняться как переживание квалиа но без привычного, устойчивого личностного «я», которое человек воспринимает как автора собственных действий.

Приведу три примера.

Галлюцинации. Человек может видеть иллюзию, галлюцинацию или переживать сон. Представляемого объекта может не существовать, тогда как само переживание существует. Следовательно, сознание нельзя однозначно определить как способность правильно различать происходящее во внешнем мире.
Деперсонализация-дереализация. Человек продолжает действовать и переживать происходящее, но собственное тело и поступки могут восприниматься как чужие — словно он наблюдает со стороны за действующим «биороботом». Переживание сохраняется, а привычное чувство «это я действую» нарушается.
Диссоциативное расстройство идентичности. У одного человека могут сменяться различные состояния личности вместе с самоощущением и доступными воспоминаниями. Устойчивая личностная организация здесь нарушена, однако это не равнозначно отсутствию сознательного опыта.

Феномен сознания не исчерпывается устойчивой личностью и привычной позицией субъекта-наблюдателя. Личностная организация может изменяться, чувство авторства действий — нарушаться, а переживание происходящего сохраняться.

Отсюда моя позиция: сознание включает наблюдателя как одну из своих функций и форм организации. Наблюдатель не является в структуре сознания первичным основанием существования сознания.



«Мое» - это функция личности, не сознания как определяющее само сознание свойство.

 Re: Что такое сознание?
Igor_Zhuk в сообщении #1735108 писал(а):
«Мое» - это функция личности , не сознания как определяющее само сознание свойство.

"Мое" самосознание это текущее ментальное состояние. Говоря в терминологии LLM - это текущий контекст, но в случае с человеческим мозгом он намного обширнее и содержит в себе информацию из разных перцептивных модальностей. Также важен момент обработки контекста - в случае с ИИ он обрабатывается только в момент инференса. А в живом мозге - это непрерывный процесс, и соответственно он сам по себе постоянно модифицируется.

 Re: Что такое сознание?
Igor_Zhuk в сообщении #1735108 писал(а):
как ваши волосы часть вас, но лишившись волос вы не лишаетесь себя и не перестаете быть собой

Дело не в этом, отделилась часть от основной части или нет. Вот вы видите свои волосы, не важно, отрезаны они или растут на теле. Потом увидели снова свои волосы - кто-то их собрал и выбросил на помойку. Вы понимаете, что это свои волосы, а не чужие, потому что "А как иначе? Я разве не узнаю свои волосы?".

Другой пример: можно увидеть, что какой-то плагиатор наигрывает твою музыку. Музыка никогда не была частью тела, но сгенерирована была именно вами, а не кем-то. Она своя собственная.

Способность плавать в такой информационной среде, понимать, какой объект связан с другими объектами - это значит "находиться в сознании", "осознавать", или иначе просто "понимать", но я это говорю осторожно, мне кажется, это почти одно и то же.

 [ Сообщений: 194 ]  На страницу Пред.  1 ... 9, 10, 11, 12, 13


Соглашение о конфиденциальности | Общие правила

Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group