@werastet

Как ускорить работу скрипта в python?

with open('2.txt', 'r') as file1:
    with open('1.txt', 'r') as file2:
        same = set(file1).intersection(file2)

same.discard('\n')

with open('some_output_file.txt', 'w') as file_out:
    for line in same:
        file_out.write(line)
  • Вопрос задан
  • 156 просмотров
Пригласить эксперта
Ответы на вопрос 1
@deliro
Агрессивное программирование
Зачем здесь вообще питон?

comm -12 <(sort --parallel=4 1.txt) <(sort --parallel=4 2.txt) > some_output_file.txt


Где 4 - количество ядер / 2 (две сортировки идут одновременно), parallel не может быть больше 8 и является опциональным.

sort умеет не вылезать за пределы ОЗУ (но если нужно жёстко ограничить, то -S 100M например). Если нужно, засовываешь это в питоне через subprocess

Подробнее здесь https://en.m.wikipedia.org/wiki/External_sorting
Ответ написан
Ваш ответ на вопрос

Войдите, чтобы написать ответ

Войти через центр авторизации
Похожие вопросы
SpectrumData Екатеринбург
от 150 000 до 250 000 ₽
AGIMA Москва
от 250 000 ₽
23 мая 2022, в 04:14
10000 руб./за проект
23 мая 2022, в 00:03
3000 руб./за проект
22 мая 2022, в 23:58
2000 руб./за проект