Это не совсем правильная идея - использовать фототранзистор. Я бы попробовал взять уже собранный инфракрасный приемник - есть такая цельная радиодеталь. На выходе - цифровой сигнал. Стоит дешево. Пример - TSOP1738.
Отличие от фототранзистора в том, что он реагирует не просто на инфракрасное излучение, а только на моргание с некой частотой. То есть на переменную составляющую инфракрасного светового потока. Обычно частота, на которую реагируют такие датчики, находится в диапазоне 30-50 КГц. То есть постоянная засветка не вызовет срабатывания. Только пульсирующая, причем, даже не фоне постоянной она будет определяться.
Дело в том, что просто оптический фильтр не даст ожидаемого эффекта. Мир, в котором мы живем, полон не только видимого, но и инфракрасного излучения. Так что если даже отфильтровать видимый свет, то ложные срабатывания не прекратятся. А вот источников импульсов излучения с частотой 40КГц в обычном мире довольно мало. Из распространенных - только пульты дистанционного управления.
Попробуйте подумать в этом направлении. Надо всего лишь питать излучающий светодиод не постоянным током а инпульсами с заданной частотой, а вместо фототранзистора поставить готовый IR-приемник.
Тут уже предлагали "модулировать" сигнал. Это оно и есть. Разница лишь в том, что при использовании "голого" фототранзистора придется самому паять или писать фильтры, выделяющие пульсации, а при использовании фотоприемника все это уже сделано внутри.