Какие самые сложные нерешенные задачи в IT отрасли вы знаете?

Знаю точно, что компьютер до сих пор не может обыграть человека в Го.

Уже может.

Amazon S3 для хранения видео-контента?

У него нагрузка небольшая, всего 100-200 клиентов.
Скорее всего, одновременно онлайн будет только некоторая часть.
Думаю, у него контент в mp4, там последовательное чтение ещё не так сильно убивает SATA диски.
Если правильно потюнить сервер (дисковая, sysctl), до 400 мегабит отдавать будет.
Больше - как минимум нормальный raid контроллер со своей памятью, несколько дисков в raid10, и оперативки побольше для дискового кеша.

Какие критерии нужно учесть при расчете хостинга для сайта с видеоконкурсом?

Несколько одновременно смотрящих - это random read (головки диска туда-сюда). SATA диски под это плохо рассчитаны. С внешним raid контроллером с памятью 4 диска в raid0 150 МБайт/с - потолок. Без raid контроллера - вряд ли дойдут до 100 Мбайт/с.

MySQL не выдерживает большое количество данных, как решить проблему?

У таблицы можно удалить индекс (DROP INDEX), или создать без индекса (без строчки PRIMARY KEY)

MySQL не выдерживает большое количество данных, как решить проблему?

CREATE INDEX для обычных индексов ( dev.mysql.com/doc/refman/5.0/en/create-index.html ).
ALTER TABLE для PRIMARY KEY ( dev.mysql.com/doc/refman/5.0/en/alter-table.html ).