Размер глобальных буферов (key_buffer_size + tmp_table_size + innodb_buffer_pool_size + innodb_additional_mem_pool_size + innodb_log_buffer_size + query_cache_size).
+
Размер буфера одного подключения (read_buffer_size + read_rnd_buffer_size + sort_buffer_size + thread_stack + join_buffer_size).
*
умножаем на Максимальное количество подключений (max_connections).
Получаем максимально возможный загруз памяти
ну это если в кратце, на самом деле там конечно побольше.
НО
Зачем вам уменьшать это значение ? я бынаоборот увеличивал.