Можно сказать, что клиентская библиотека это библиотека, устанавливаемая на клиенте. Но это не дает представления о том что это такое. Более общо - клиентское программное обеспечение (ПО).
Представьте общий случай. Есть поставщики услуг и потребители этих услуг. При этом требуются средства для манипуляции и управления этими услугами. Эти средства чаще всего разрабатываются производителем поставщика услуг (или потребителя) для того, что потребитель мог выполнять различные операции с услугами.
Поставщик услуг это сервер (чаще всего). Потребитель - клиент. Специализированное ПО это средства для работы с услугами. Это ПО может быть как целой программой или комплексом программ, так и отдельной библиотекой, встраиваемой в ПО потребителя. Вот эта библиотека и будет клиентской.
Пример. MySQL - поставщик услуги хранения данных. Для работы с данными из PHP разработана библиотека, встраиваемая в PHP. Она предоставляет определенный интерфейс для взаимодействия с СУБД. Так как PHP это программа, то ее надо установить (инсталлировать) на систему. Во время установки PHP из установочного пакета эта библиотека может быть установлена или не установлена. На большинстве систем ее устанавливают.
Это пример клиентской библиотеки, которая установлена на большинстве систем.
отсюда
В случае с memcache у вас есть сервис, возможно даже работающий на отдельном компьютере, и для обращения к нему из php используется какая-то dll-ка или so-шка. Именно ее, в данном случае, и назвали клиентом.