Вообще-то говоря, нелинейная корреляция и нелинейная регрессия - это хотя и близкие, но несколько различные темы. Поэтому если вас интересует именно корреляция, а не регрессия, то могу рекомендовать заглянуть вот сюда:
https://scask.ru/g_book_mkor.php?id=38