[ ] - это множество. Оно ограничено в количестве и типе данных.
Только 255 значений и только byte.
В Memo ты пишешь текст уже в Unicode, а значит, русские символы там не входят в диапазон 0..255, они имеют совсем иные значения.
По этому тут не нужно использовать множество.
Добавь функцию для проверки русский символ это или нет
var Cyrillics: string := 'абвгдеёжзийклмнопрстуфхцчшщъыьэюя';
...
function IsCyrillic(const Ch: Char): Boolean;
begin
for var C in Cyrillics do
if C.ToLower = Ch then Exit(True);
Result := False;
end;
...
function CyrillicCount(const Text: string): Cardinal;
begin
Result := 0;
for var C in Text do
if IsCyrillic(C) then Inc(Result);
end;
...
var Count := CyrillicCount(Memo.Text);