Если MySQL, то, как мне кажется, движок MyISAM — не самый лучший выбор (из-за потабличной блокировки) — правильным решением будет комбинировать InnoDB и MyISAM (в тех случаях когда будет требоваться выводить большое кол-во инфы, а также пользовать втроенный механизм полнотекстового поиска (тк в InnoDB его нет и придётся «изобретать» свои/использовать чужие механизмы)). Кроме того с версии 5.5 в MySQL реализованна возможность создания noSQL-хранилищ (если вас не устраивает memcache (и прочие) которые легко интегрируются с php).
Также могу порекомендовать обратить своё внимание на СУБД Firebird.
По поводу Ms SQL — очень мощная база, но разумеется с ней удобнее работать с использованием C# и продуктов MS (например Visual Studio) — это позволит существенно сократить время на разработку.
Как вы уже, наверное, знаете php не самое лучшее средство для реализации систем с высокой нагрузкой (здесь придётся повоевать), ну и придётся принимать решение по поводу модели программирования — не думаю, что ОО модель будет лучшим выбором. Возможно стоит обратить своё внимание на Java или C#…
Ну и разумеется структура БД крайне важна — в случае неправильного выбора — не спасёт ни одна СУБД. Но для того, чтобы придти к оптимальной для данного решения структуре — надо понимать что именно вы собираетесь реализовывать, но я, если я правильно понимаю, то у вас нет этого понимания. Если позволите — мой совет начать именно с этого, а не с выбора СУБД.
Простой
