При наличии ВЧ составляющих в сигнале фильтр на входе АЦП необходим по определению, с частотой среза не выше половины скорости опроса (а лучше в разы меньше) (т. Котельникова ж).
(ФНЧ) с частотой среза
не ниже половины скорости опроса или больше?
ФНЧ не
выше половины частоты опроса. Иначе в результатах измерений будут интермодуляционные искажения (пожалуй ошибся, будет многократное отражение и наложение спектра выше в полосу половины опроса, грубо говоря гармоники не подавятся фильтром, а переедут с каким-то ослаблением и в полосу 0-5кГц для опроса 10кГц) и уберутся ли они усреднением - очень не уверен (собственно с чего бы). И насчёт ровно половины - это сказки/теория для бесконечных времён, при любом конечном времени надо ещё меньше, вы ж вряд ли накладываете окна (Блэкман-Харриса, Хамминга, или какие там ещё применяются) на массив отсчётов перед усреднением.
Т.е. при 10кГц опросе частота среза ФНЧ должна быть не выше 5кГц (а лучше скажем 2-3кГц) и ослабление в полосе от 5кГц и выше должно быть достаточным для увода любых таких сигналов (с гармониками выше 5кГц) ниже 1LSB. Такую крутизну для сильных помех обеспечить вряд ли реально, значит или ограничивать уровень помех с частотами (и гармониками) выше 5кГц чтобы при имеющемся подавлении они ушли ниже 1LSB; или увеличивать порядок/крутизну фильтра; или уменьшать частоту среза (с увеличением времени установления до нужной точности).
Впрочем я не на 100% уверен что всё это именно так применимо и к импульсным сигналам, радиотехника для меня тёмный лес с отдельными прогалинами.
По остальному эксперименту.
Входная ёмкость щупа осцилла обычно мала (10-15пФ, на пределе 10:1 может и пару пФ быть), что сравнимо просто с голым выводом микрушек, вряд ли он столь сильно влияет.
Потеря пилой зубьев не совсем понятна, если при этом поднимается нижний уровень её - то ок, это вмешивается АРУ AD8310 и сглаживает входной сигнал (таким странным образом). Но как она тогда работает от 0Гц я почти не понимаю (вернее не понимаю где тут тогда пиковый детектор). Если же уровни пилы не меняются при потере зубьев - не понимаю происходящего (или вообще принципа работы AD8310).
Почему пила вместо трапеции - очевидно: зарядка выходных ёмкостей током 25мА (наверное), а разряд на 4кОм, вот и асимметрия.
На частотах 10-20МГц надо пересчитать на время нарастания/спада осцилла и по ним уже судить синус там или пила или что. Вроде бы понятие "полоса пропускания" - это где синус искажается не более чем на -3дБ. Хотя какое там в осцилле подавление гармоник я не знаю и может и правда всё сглаживается до синуса ... В общем тут я плаваю, с понятием полосы пропускания осцилла, время нарастания/спада намного понятнее.
Размах помехи 0.5В - нонсес. Что Вы вообще собрались при этом мерить?!
Учитывая её зависимость от ёмкости нагрузки - уж не самовозбуждение ли тут? ИМХО смахивает на ёмкость в цепи ОС генератора. И давить его фильтрами дальше - глупость, сигнал не вытащите, это не регенератор.
Э, стоп, может это и не помеха вовсе, а ваш входной сигнал? Вершины у неё где, не на правильном ли выходном уровне случаем? Хотя от ёмкости по выходу тогда зависимости быть не должно.
Итого. Ощущение что вы ходите по заколдованному кругу проблем, пытаетесь лечить одну - обнаруживаете другую, лечите её - вылезает третья, и т.д. Сначала были наводки из эфира, вроде полечились экранами, потом возможно (не уверен) были наводки по питанию, перешли на крону, теперь походу самовозбуждение ... И это ещё не подключали AD9850 ...
Я скоро (если не уже) запутаюсь в своих предложениях, тем более что сам плохо их понимаю.