Из скрипта — никак, так как при подключении языка вы должны дать ссылку на соответствующий модуль, который должен лежать в папке рядом с ace.js :
editor.getSession().setMode("ace/mode/javascript");
Здесь
ace/mode/javascript
— это инструкция для подключения файла mode-javascript.js .
Соответственно, посмотреть, какие языки доступны вы можете глазами внутри папки, в которой находится у вас ace.js, или тут:
https://github.com/ajaxorg/ace-builds/tree/master/...
Файлы языков называются
mode-поддерживаемый_язык.js