1. Для начала определяете, к каким данным будет получать доступ человек/скрипт посредством вашего REST API
2. После того, как вы четко понимаете, что именно вы будете отдавать пользователям - начинаете думать о доступе к API, будет ли он у вас публично доступным (тогда думайте о ограничении количества запросов с одного IP/сессии), будет ли он у вас доступным по токенам (я говорю об Oauth), или по паре логин-пароль, как крайний случай. Реализовываете доступ.
3. Дальше все зависит от того, как уже написан ваш сайт. Если вы используете MVC фреймворк для него - можете выделить отдельный контроллер, который назовете, к примеру, ApiController, будут у него, скажем, методы get-friends, get-likes, get-latest-posts, которые будут отдавать нужные данные в JSON
3.1. Возможен второй вариант, вы заводите поддомен api.yoursite.com, заводите под него другой виртуальный хост(или реально другой), и разрабатываете api как отдельный проект.