ЯНА-ТЕЛЛЕРА ЭФФЕКТЫ, совокупность квантовых эффектов, проявляющихся у многоатомных молекул при понижении симметрии ядерной конфигурации под влиянием электронно-колебательного взаимодействия. Если у молекулы существуют геом. конфигурации высокой симметрии, напр. конфигурации с осью симметрии третьего или более высокого порядка, то электронные состояния такой молекулы м. б. вырождены. Коррелированные движение электронов и колебания ядер могут привести к искажению конфигурации и понижению симметрии, при этом вырождение снимается и поверхность потенциальной энергии расщепляется на две (или более, в зависимости от кратности вырождения и типа искажения). В общем случае одна из потенц. пов-стей опускается ниже энергии высокосимметричной конфигурации, другая -поднимается выше. Это означает, что минимум на потенц. поверхности отвечает не наиболее высокой по симметрии конфигурации Q₀, а менее симметричной Q₁. Таких минимумов м. б. столько, сколько получено потенц. пов-стей из конфигурации Q₁ в результате операций симметрии, составляющих группу максимально высокого порядка, допустимого для данной молекулы (за исключением операций, отвечающих повороту системы как целого).
Обычно Я.-Т. э. рассматривают в т. наз. грубом приближении Борна - Оппенгеймера (см. Адиабатическое приближение). В качестве причины расщепления потенц. пов-стей принимается изменение электронно-ядерного взаимод. при переходе от конфигурации Q₀ к конфигурации Q₁. В рамках более точного адиабатич. приближения снятие вырождения при переходе к низкосимметричной конфигурации является естественным и не связано с электронно-колебат. взаимод.
Г. А. Ян и Э. Теллер (1937) показали, что у многоатомной молекулы всегда найдется такое неполносимметричное колебание ядер, при к-ром электронная энергия вырожденного электронного состояния понижается, в результате чего минимум на потенц. пов-сти смещается к конфигурации ядер с более низкой симметрией. В этом заключается собственно Я.-Т. э. 1-го порядка: высокосимметричная конфигурация мол. системы при наличии электронного вырождения является неустойчивой и самопроизвольно деформируется. Волновые ф-ции и отвечающие им энергетич. состояния м. б. рассчитаны в рамках 1-го порядка возмущений теории. Так, для октаэдрич. комплексов переходных металлов искажение, ведущее к понижению симметрии двукратно вырожденного электронного состояния типа Е, м. б. связано с его взаимод. с двукратно вырожденным колебат. уровнем е того же типа симметрии (см. Симметрия молекул). Для таких комплексов Я.-Т. э. проявляется в том, что у мол. системы существуют 3 эквивалентных минимума, отвечающих октаэдру, вытянутому (или сжатому) по одной из его 3 осей 4-го порядка. Если эти минимумы разделены невысокими барьерами, происходит туннельное расщепление энергетич. уровня. Между расщепленными уровнями возможны переходы, что проявляется в тонкой структуре оптич. спектров, изменении правил отбора, появлении новых линий в ИК спектре.
Если потенц. барьеры между минимумами достаточно высоки, то система, попав в один из них, будет находиться в нем продолжит. время; это т. наз. статич. Я.-Т. э., в отличие от описанного выше "динамич." эффекта. Обычно основное состояние молекулы невырождено, или, если вырождение есть, электронно-колебат. взаимод. не слишком велико и барьер между минимумами оказывается достаточно низким, т. е. имеет место динамич. Я.-Т. э. Статич. Я.-Т. э. наблюдают, как правило, только при воздействии на мол. систему внеш. полей. В частности, при кооперативном увеличении высоты барьеров в кристаллах минимумам потенц. пов-сти отвечают такие конфигурации всей кристаллич. структуры, при к-рых вырождение для каждой отдельной молекулы или иона в кристалле снимается. Такое энергетически выгодное расположение локально искаженных фрагментов кристалла (в общем случае возникающее не только за счет Я.-Т. э.) м. б. разрушено тепловыми флуктуациями при повышении т-ры, что приводит, напр., к структурным фазовым переходам (т. наз. ян-теллеровские кристаллы). Для свободных молекул и мол. комплексов, т. е. в отсутствие внеш. воздействия, характерен именно динамич. эффект.
Электронно-колебат. взаимод. может быть достаточно сильным для того, чтобы даже в невырожденном основном электронном состоянии минимум на потенц. пов-сти сместился от наиб. симметричной конфигурации Q₀ к менее симметричной Q₁. Такой эффект наз. псевдоэффектом Яна-Теллера или Я.-Т. э. 2-го порядка, поскольку для расчета волновых ф-ций и электронных энергий используется 2-й порядок теории возмущений. При достаточно слабом псевдоэффекте Яна-Теллера минимум, отвечающий конфигурации Q₀, сохраняется, но потенц. пов-сть вблизи минимума становится более пологой. При сильном же псевдоэффекте минимум перемещается от конфигурации Q₀к конфигурации Q₁, причем Q₀ становится локальным максимумом (говорят о структурной неустойчивости конфигурации Q₀).
Для линейных многоатомных молекул с вырожденным электронным состоянием при деформационных колебаниях также возможно смещение минимума от линейной конфигурации (высокосимметричной) к менее симметричной изогнутой конфигурации; это т. наз. эффект Реннера-Теллера. Эффект м. б. слабым, тогда он проявляется лишь в том, что уменьшается силовая постоянная деформационного колебания линейной молекулы; сильный эффект приводит к нелинейной равновесной конфигурации молекул.
Экспериментально структурные и спектральные проявления Я.-Т. э. наблюдаются для нек-рых мол. кристаллов и кристаллов комплексов переходных металлов. С ним связывают, напр., подвижность координац. сферы Cu(II) в керамиках, формирование винтовой структуры в кристаллах типа CsCuCl₃, структурные фазовые переходы в кристаллах, в т. ч. возникновение спонтанной поляризации в сегнетоэлектриках, особенности оптич. спектров, активацию молекул при их взаимод. с активными центрами катализаторов и др. С Я.-Т. э. связывают и ряд особенностей поведения молекул в биол. системах, в частности стереоспецифич. оксигенирова-ние гемоглобина.

Лит.: Нокс Р., Голд А., Симметрия в твердом теле, пер. с англ., М., 1970; Берсукер И. Б., Эффект Яна-Теллера и вибронные взаимодействия в химии, М., 1987.

Н. Ф. Степанов.