http://wiki.gamedev.net/index.php/Main_Page - там список библиотек.
и на сайте википедии просто поискать - список игровых движков, список физических движков, список библиотек искуственного интелекта, проприетарные движки(это правда если у вас есть 300.000$). а в дополнение.
Я вот вам такой совет дам. Начините с директX 9.0. Через месяц, прийдите к работодателю, он вам скажет: "напишите мне тестовое задание на огре, где просто что-то перемещается в ограниченном пространстве." Вы не спите 3 дня, и приносите ему что-то получившееся. Но, вы не используете на работе ни директх ни Ogrе. Приходиться писать на движке Valve Source. И через год, когда каждый день вы приходете домой неудовлетворенные собой, и стареньким компом, на котором приходиться несколько минут компилировать, несколько минут запускать игрушку, и опять комбинация флагов или ф-я выбрана не та, а изменения в коде не принесли пользы поскольку гденибудь стоит вызов другой ф-и, да и весь оффис будет в напряжении смотреть на прыжки вокруг рабочего стола от злости, все кончиться.
Вы пройдя через все это, просто будете есть что от вас потребуют.
А для начинающего подойдет прочтение курса 3-D математики.
Далее применение матриц, и понятие что такое устроиство, и этапы рендеринга. Потом можно не учить директХ вообще, и использовать уже созданные движки с открытым кодом типа Огре.
Зачем изобретать велосипед. Потому как вам быстро надоест использование километровых срок ДиректХ и вы начнете мудрить над собственными обертками. Это даст практики на с++, но далеко не уйдете. А через некторое время все движки будут поддерживать библиотеку Dx10. Вам об этом заботиться не надо.
И никогда не советуйте начинать с .net. Его одно преимущество в том, что его среда IDE вырабатывает хорошое оформление кода, но как все происходит в системе человек никогда не поймет. Да и мы как то проводили тест Xna и GlScene, так и решили пусть GlScene будет отображат CAD файлы. Потому как разницы мы там неувидели. А пока интел за оптимизацию .net не взялся(что в пинципе не оптимизируемо по своей природе) не пользуйтесь им, в таких серъезных делах.