Взять бумажку.
Нарисовать пример двух вписанных в прямоугольник окружностей.
Подумать.
Заподозрить, что точка соприкосновения окружностей всегда будет лежать на линии, соединяющей их центры. Доказать это.
Провести линию между центрами окружностей и перпендикуляры от центров к сторонам прямоугольника.
Сообразить, что нужно просто определить, влезет ли линия между центрами в габариты прямоугольника минус радиусы окружностей...
Немножко посчитать.