Για όσους θέλουν να τρέχουν AI χωρίς cloud και Big Brother.
-
LocalAI
Open-source clone του OpenAI API. Τρέχει LLMs τοπικά, με υποστήριξη για Hugging Face μοντέλα. Ιδανικό για devs που θέλουν full έλεγχο και privacy-first περιβάλλον. - ΠΗΓΗ
-
LM Studio
GUI για τρέξιμο LLMs στον υπολογιστή σου (Windows/Mac). Υποστηρίζει GGUF, Chat templates, system prompts και έχει πανεύκολο setup. - ΠΗΓΗ
-
Whisper.cpp
Ελαφριά, τοπική έκδοση του Whisper (speech-to-text) που δεν χρειάζεται GPU. Γρήγορο, αξιόπιστο, τέλειο για ηχογραφήσεις, podcasts, βίντεο. - ΠΗΓΗ
-
Ollama
Τρέχεις μοντέλα όπως LLaMA, Mistral, Gemma κ.ά. με μία εντολή. Έχει δικό του runtime και CLI. Λειτουργεί σαν mini local ChatGPT. - ΠΗΓΗ