Скорее всего в директории есть файл, который похож на опцию tar.
Почему так происходит:
1. TAR, как довольно старая тулза, поддерживает старый BSD формат (без дефисов), поэтому, например, файл с именем x может быть воспринят как команда extract
2. Shell globbing (звездочка) разворачивается не таром, а шеллом, до того как в тар уходит команда.
3.
Алексей Тен правильно подсказывает, что проблема скорее всего с файлом, и она решается ./* или . - в этом случае файлы в текущей директории будут добавлены не как filename, а как ./filename и tar их правильно увидит.