Για όσους θέλουν να τρέχουν AI χωρίς cloud και Big Brother.

• LocalAI
  Open-source clone του OpenAI API. Τρέχει LLMs τοπικά, με υποστήριξη για Hugging Face μοντέλα. Ιδανικό για devs που θέλουν full έλεγχο και privacy-first περιβάλλον.

• ΠΗΓΗ

• LM Studio
  GUI για τρέξιμο LLMs στον υπολογιστή σου (Windows/Mac). Υποστηρίζει GGUF, Chat templates, system prompts και έχει πανεύκολο setup.

• ΠΗΓΗ

• Whisper.cpp
  Ελαφριά, τοπική έκδοση του Whisper (speech-to-text) που δεν χρειάζεται GPU. Γρήγορο, αξιόπιστο, τέλειο για ηχογραφήσεις, podcasts, βίντεο.

• ΠΗΓΗ

• Ollama
  Τρέχεις μοντέλα όπως LLaMA, Mistral, Gemma κ.ά. με μία εντολή. Έχει δικό του runtime και CLI. Λειτουργεί σαν mini local ChatGPT.

• ΠΗΓΗ