Михаил Конюхов

Можно и на php. Храните данные в хорошо доступном хранилище - redis/memcached и вынимайте их в обход php - например модули nginx для работы с memcached/redis - это позволит иметь горячие и доступные данные независимо от тормозов бакенда.
Важно понимать, что эти данные - кеш и этот кеш должен писаться в момент изменения/сохранения данных, а не в момент запроса; т.е. кеш должен быть всегда горячим и генерируемым при сохранении данных, не иметь expires и изменятся только событийно.
При такой архитектуре ваши данные будут всегда доступны из быстрого хранилища напрямую из nginx (в нем можно использовать например ssi для получения этих данных в контент страниц).
Оповещение js-фронтенда в realtime можно реализовать на websocket-ах, примеров массы, но я бы советовал не гонять очень много данных через него - только события о факте изменения и минимальные данные (всё что нужно можно забрать аяксом тогда когда нужно).

> mysql
если хотете делать это профессионально - изучите как mysql устроена. Это сделает Вам огромную пользу в оптимизации.

> php, apache
php - сам по себе не особо оптимизируется. Есть добавочные средства - кеши (APC, OpCache), есть некоторые опции в php.ini - изучите просто "что вообще можно настроить в php"

В целом - в целом оптимизация web - это оптимизация архитектуры - замена apache+php на php5-fpm+nginx.
Оптимизация дискового IO, оптимизация сети, etc...

Т.е. вопрос задан слишком общий, чтобы на него ответить в одном посте

1. Какая разрядность ОС? Какой код mysql - 32 или 64 бит? - 32 бит не выделит 10G
2. Своп имеется на машине? Если его нет, все что егодно может скушать память, даже кеш fs может скушать всю память и вызвать эту ошибку.

хороший пример генерации ssl сертификатов тут: dotlinux.blogspot.com/2007/11/openssl-openvpn.html