Εγκαταστήστε το Serge με ένα κλικ.
Αυτο-φιλοξενούμενη διεπαφή συνομιλίας για την εκτέλεση μοντέλων LLaMA και Alpaca τοπικά μέσω του llama.cpp χωρίς κόστος API.
Επιλέξτε ένα πακέτο VPS για Serge
Κάθε πακέτο έχει όλα όσα χρειάζεστε και πολλά άλλα
Τι μπορείτε να κατασκευάσετε με Serge
Το Serge είναι ένα open-source περιβάλλον συνομιλίας για την εκτέλεση γλωσσικών μοντέλων της οικογένειας LLaMA τοπικά μέσω του llama.cpp, με κορυφαία υποστήριξη για Alpaca, Vicuna, GPT4All και άλλες κοινοτικές fine-tunes. Ενσωματώνει ένα web UI SvelteKit, ένα backend FastAPI και ένα μητρώο μοντέλων με υποστήριξη Redis σε ένα ενιαίο container, ώστε να μπορείτε να τραβάτε μοντέλα GGUF, να διαχειρίζεστε συνεδρίες συνομιλίας και να ρυθμίζετε παραμέτρους inference χωρίς να συνδέετε πολλαπλές υπηρεσίες.
Το self-hosting του Serge διατηρεί κάθε prompt και απόκριση στο δικό σας VPS — χωρίς εξωτερικό API, χωρίς τηλεμετρία και χωρίς κόστος ανά token. Η CPU-only inference λειτουργεί άμεσα, καθιστώντας το έναν πρακτικό τρόπο για την εκτέλεση ιδιωτικών LLMs χωρίς να πληρώνετε για χρόνο cloud GPU ή να εγγράφεστε σε μια τρίτη υπηρεσία AI.
Βασικά χαρακτηριστικά του Serge
Λειτουργεί σε CPU
Το llama.cpp τροφοδοτεί πλήρως τοπική εξαγωγή συμπερασμάτων χωρίς GPU, ώστε να μπορείτε να συνομιλήσετε με κβαντισμένα μοντέλα LLaMA σε έναν τυπικό VPS.
Ενσωματωμένο μητρώο μοντέλων
Αντλήστε και εναλλάξτε μεταξύ Alpaca, Vicuna, GPT4All και άλλων μοντέλων GGUF απευθείας από το web UI χωρίς μη αυτόματη αντιγραφή αρχείων.
Ρυθμιζόμενη συμπερασματολογία
Προσαρμόστε temperature, top-k, top-p, context length, και άλλες παραμέτρους δημιουργίας ανά συνομιλία για να ελέγχετε το στυλ και την ποιότητα απόκρισης.
Μόνιμο ιστορικό συνομιλιών
Οι συνομιλίες και τα κατεβασμένα βάρη μοντέλου αποθηκεύονται σε τόμους Docker και διατηρούνται μετά από επανεκκινήσεις και αναβαθμίσεις κοντέινερ.
Περιλαμβάνεται REST API
Το FastAPI backend παρέχει πρόσβαση σε endpoints για chat, model και session, ώστε να μπορείτε να ενσωματώσετε το Serge με προσαρμοσμένα scripts, bots ή εφαρμογές.
Γιατί να τρέξω Serge στο Hostinger;
Εκκίνηση με ένα κλικ
Θέστε την εφαρμογή σας σε λειτουργία άμεσα με μια προρυθμισμένη ρύθμιση. Χωρίς χειροκίνητη εγκατάσταση ή πολύπλοκα βήματα ρύθμισης.
Ασφάλεια στην οποία μπορείτε να βασιστείτε
Διατηρήστε τις εφαρμογές σας προστατευμένες με ενσωματωμένο τείχος προστασίας, προστασία DDoS και συνεχή παρακολούθηση.
Ενσωματωμένος Docker manager
Εκτελέστε και διαχειριστείτε πολλά Docker containers από ένα μέρος. Αναπτύξτε, ενημερώστε και παρακολουθήστε τα έργα σας με ευκολία.
Εκκίνηση με ένα κλικ
Θέστε την εφαρμογή σας σε λειτουργία άμεσα με μια προρυθμισμένη ρύθμιση. Χωρίς χειροκίνητη εγκατάσταση ή πολύπλοκα βήματα ρύθμισης.
Ασφάλεια στην οποία μπορείτε να βασιστείτε
Διατηρήστε τις εφαρμογές σας προστατευμένες με ενσωματωμένο τείχος προστασίας, προστασία DDoS και συνεχή παρακολούθηση.
Ενσωματωμένος Docker manager
Εκτελέστε και διαχειριστείτε πολλά Docker containers από ένα μέρος. Αναπτύξτε, ενημερώστε και παρακολουθήστε τα έργα σας με ευκολία.
VPS Docker hosting στο οποίο μπορείτε να βασιστείτε
Είμαι απίστευτα ευχαριστημένος με το VPS hosting της Hostinger! Ο χρόνος διαθεσιμότητας που παρέχουν είναι κορυφαίος, διατηρώντας την ιστοσελίδα μου σε ομαλή λειτουργία. Όποτε χρειάστηκα βοήθεια, η ομάδα τεχνικής υποστήριξής τους ήταν γρήγορη, έμπειρη και πραγματικά εξυπηρετική.
Όλα είναι ομαλά και τέλεια με το Hostinger, το chat bot με AI + ανθρώπινη συνομιλία, αν το AI δεν μπορεί να λύσει την ερώτησή σας. Α, και αυτά τα VPS είναι φοβερά, χωρίς σκαμπανεβάσματα. Ευχαριστώ την ομάδα dev και όλους τους υπόλοιπους. Συνεχίστε έτσι 🚀
Επιτέλους μια εταιρεία φιλοξενίας VPS που το κάνει σωστά! Καλή τιμή. Εξαιρετική πύλη που σέβεται τον χρόνο των χρηστών της. Εύκολα αντίγραφα ασφαλείας. Καλή υποστήριξη. Αξιόπιστη. Αισθάνεται άψογη.
Επικοινώνησα με την υποστήριξη της Hostinger αφού έχασα την πρόσβαση στην self-hosted υπηρεσία n8n μου και δεν θα μπορούσα να είμαι πιο εντυπωσιασμένος. Ο Kodee και ο Mohammad από την ομάδα υποστήριξης ήταν πολύ υπομονετικοί και σχολαστικοί.
Πολλές ευχαριστίες στην Carla που με βοήθησε με την αναβάθμιση N8N στο Hostinger VPS μου. Επαγγελματίας και έμπειρη, σε ευχαριστώ και πάλι Carla.
Το Hostinger VPS είναι εξαιρετικό. Λειτουργεί πάντα. Είναι πάντα γρήγορο και σταθερό. Δεν κολλάει ποτέ, δεν κολλάει ποτέ.
Η εταιρεία τα πάει καλά, είμαι πολύ ευχαριστημένος με τις συγκεκριμένες υπηρεσίες που χρησιμοποιώ μέσω αυτών. Δεν είναι τόσο ακριβό όσο σε ορισμένα μέρη με πραγματικά εξαιρετικές εγκαταστάσεις VPS και προγράμματα τιμών.