Станислав Макаров

Вам нужно передавать gcc не dll-файл, а lib (импорт-библиотеку). Cгенерируйте его следующей командой:
lib /def:sqlite3.def /out:sqlite3.lib /MACHINE:X64
Команду надо запускать из Студийной ком. строки. Если вы её вообще не ставили, попробуйте dlltool:
dlltool -d sqlite3.def -l sqlite3.lib

Справка по dlltool: www.mingw.org/wiki/dlltool

В https://sqlite.org/fts5.html#section_7_1 ясно написано:

xTokenize:
This function is expected to tokenize the nText byte string indicated by argument pText. pText may or may not be nul-terminated. The first argument passed to this function is a pointer to an Fts5Tokenizer object returned by an earlier call to xCreate().
..........
For each token in the input string, the supplied callback xToken() must be invoked.

ВЫ пишете тройку функций xCreate, xDelete, xTokenize. При вызове вашей xTokenize ей будет передан колбэк, который, как правильно подметил abcd0x00 , нужно будет дергать для передачи движку SQLite готовой (т.е. подготовленной ВАМИ в процессе работы xTokenize) лексемы. Они называют это токен, но вообще это лексема, т.к. вы отдаете кусок из входной строки.
Итого, все максимально просто - вам дается строка, вы по своим алгоритмам и критериям решаете, где в ней какие лексемы. Для каждой найденной лексемы дергаете данный вам xToken, чтобы сообщить эту радостную новость SQLite.

Обязаны ли мы его вызывать?

нет, но если не будете вызывать, ни одной лексемы из входной строки SQLite не получит.

Если его должны реализовать мы

его реализует SQLite.

> Как лучше хранить данные GeoJson в БД?
Геометрию - в колонке геометрического (или географического, смотря что вам нужно) типа, остальные свойства фич - в колонках соотв. типа.
> Если хранить пространственные данные в БД, то где потом лучше формировать сам GeoJson?
на бэкенде при передаче фронтэнду, на фронтэнде - при передаче бэкенду

Т.к. в реляционных СУБД и так уже придумали, как работать с геометрией, то не вижу смысла в GeoJSON хранить. В какой-нибудь Монге - другое дело, но не в MySQL. А вот для передачи геоданных GeoJSON вполне ничего, поэтому и логичный вывод, где что формировать.
Вообще странный вопрос, будто у вас основная задача не саму фичу передать и сохранить, а сохранить GeoJSON.

Убедитесь, что установили этот https://www.nuget.org/packages/System.Data.SQLite/ или этот https://www.nuget.org/packages/System.Data.SQLite.Core/ пакет. sqlite-net вам ни к чему, если эти уже установлены, попробуйте его удалить, возможно он приводит к конфликту. Правильно установленный пакет System.Data.SQLite должен быть самодостаточен в плане сборки (должен копировать нужные файлы сам).