Есть следующая конфигурация:

x86_64 (AMD Phenom(tm) II X4 965 Processor) система с видеокартой ATI
Technologies Inc Juniper [Radeon HD 5700 Series]

Возможна ли работа 3D на этом, или нет, никакие мои попытки завести
его не привели к успеху.

пробовал на разных ядрах (все последние на сегодняшний день), с
включенным и выключенным modeset, синхронизирован с текущим Сизифом.

[kai@storm-lin tmp]$ uname -a
Linux storm-lin.ru 2.6.36-std-ng-alt6 #1 SMP PREEMPT Mon Dec 13
20:07:09 UTC 2010 x86_64 GNU/Linux

[kai@storm-lin tmp]$ rpm -qa |grep kernel-image
kernel-image-un-def-2.6.36-alt2
kernel-image-std-def-2.6.35-alt9
kernel-image-std-ng-2.6.36-alt6

[kai@storm-lin tmp]$ rpm -qa |grep radeon
xorg-drv-radeon-6.13.2-alt2
xorg-dri-radeon-7.9-alt9
kernel-modules-drm-radeon-un-def-2.6.36-alt2
kernel-modules-drm-radeon-std-def-2.6.35-alt9

[kai@storm-lin tmp]$ rpm -qa |grep firmw
firmware-linux-20101217-alt1
firmware-alsa-1.0.23-alt1

[kai@storm-lin tmp]$ rpm -qa |grep libdrm
i586-libdrm-poulsbo-2.3.0-alt1.3
libdrm-devel-2.4.22-alt2
libdrm-2.4.22-alt2
i586-libdrm-2.4.22-alt2

[root@storm-lin modprobe.d]# cat radeon-kms.conf
options radeon modeset=1 audio=0

Логи dmesg и Xorg в аттаче.
-- 
С уважением Игорь.