ASP.NET 5 и ASP.NET Core, это одно и то же, просто Core более позднее название.
Вот перевод -
ASP.NET 5 мертв — представляем ASP.NET Core 1.0 и ....
Что же касается изучения технологии, то лучше исходить из конкретного проекта и задач, которые будет решать проект. Если это проект, который необходимо поддерживать и он построен на ASP.NET MVC 4, то именно этот подход и изучай. Если же требуется создать новый проект и в качестве сервера выбрана операционная система Linux, то тут выбор может быть за Core или Mono.
ASP.NET Core - это тренд, изучая его сейчас, можно быть уверенным в будущих заказах или работе, постепенно всё будет стремиться к кроссплатформенности, это же захват новых рынков, ты только представь, сколько специалистов по C#/VB.NET уже существует.
Если говорить об отличиях, то они безусловно есть, например встроенный DI контейнер или нюансы, касающиеся самой платформы, но если ты уже знаком с ASP.NET MVC 4, то будешь чувствовать себя, как рыба в воде.
В дополнение к Core рекомендую освоить Docker, это тоже сейчас тренд и на мой взгляд очень удобный подход к разработке с помощью контейнеров, но это уже другая тема.
UPD. 07/10/2016
Ещё по теме интересная статья от 25 мая 2016 года, перед конференцией DotNext в Санкт-Петербурге -
ASP.NET Core сегодня: за и против 
