"Τοπική" Τεχνητή Νοημοσύνη;...

Ξεκίνησε από mandarinos, 01 Ιουν 2024, 10:40:42 ΠΜ

« προηγούμενο - επόμενο »

mandarinos

...Και μάλιστα ανοιχτού κώδικα; Πολύ ενδιαφέρον!!!

Το συγκεκριμένο άρθρο (μαζί με τις παραπομπές γιά downloading) βρίσκεται εδώ, ως σελίδα σ' ένα από τα αγαπημένα μου ιστολόγια.

Βέβαια, το LM Studio βρίσκεται σε προέκδοση (0.2 beta, λέει), όπως και το TextGen UI βλέπω ότι χρησιμοποιεί modules, που επίσης βρίσκονται σε προέκδοση. Αλλά δεν τρέχει τίποτε, διότι και το Stellarium, γιά παράδειγμα, βρίσκεται σε προέκδοση (0.20.4), αλλά δουλεύει μιά χαρά.

Η όλη ιδέα μου αρέσει, αν και είναι γιά προχωρημένους τόσο σε εγκαταστάσεις σε Linux από text screen, όσο και -ταυτόχρονα- ήδη κάπως σχετικούς με ΤΝ. Δυστυχώς, δεν ξέρω αν "κάθεται" στους σχολικούς servers που έχουμε...

...Και φοβάμαι πως όχι. Έστω, όχι ακόμη. Αν φτηνήνουν οι κάρτες γραφικών, που αναφέρει το άρθρο, κι από πχ 300 ευρώ φτάσουν τα 100, δηλαδή σε 2-3 χρόνια, τότε ένα σχολείο μάλλον θα σκεφτεί πιό εύκολα να αγοράσει τέτοιο hardware. Αλλά, θα μου πείς, εδώ δίνουν λεφτά γιά ρομποτάκια, με βασικό κόστος module >400 ευρώ. Γιατί να μή δώσουν ένα αντίστοιχο πόσο γιά τέτοια εφαρμογή; (Όσοι το διαθέτουν.)

Ίσως φαίνεται πολύ τραβηγμένη η ιδέα (γιά τώρα), αλλά πιστεύω ότι αρκετοί συνάδελφοι θα τη βρούν ενδιαφέρουσα, καθώς και αρκετοί (καλοί) μαθητές Λυκείου, που ήδη διάλεξαν τον κλάδο.

mandarinos

Νεώτερα.

Κατέβασα το LM Studio στον server. Είναι ένα περιβάλλον με "φιλοσοφία": ό,τι είναι το Visual Studio γιά τις γλώσσες προγραμματισμού, είναι αυτό γιά τα modules Τεχνητής Νοημοσύνης. Κατεβάζεις όποιο θές, σου λέει και απαιτήσεις μνήμης (τα πιό μικρά απαιτούν 8 GigaBytes RAM, συνήθως ζητούν από 16 και πάνω), δες επισυναπτόμενες εικόνες. (Κατέβασα το τρίτο στη σειρά που βρήκα, διότι φοβού τους Μαϊκροσόφτηδες και τους Ζαχαροβούνηδες, και δώρα φέροντας! :) )

Το πρόγραμμα αυτό είναι AppImage, οπότε πάμε στο directory που το κατεβάσαμε / βάλαμε, και δίνουμε εντολή:

sudo chmod +x LM_Studio-0.2.24.AppImage

Και μετά, το ξεκινάμε (και) από το γραφικό περιβάλλον.

Δεν δημιουργεί εικονίδιο σε κάποια κατηγορία εφαρμογών του μενού· παρ' όλ' αυτά, αν βάλουμε στη μπάρα εφαρμογών "LM", το βρίσκει.
Επίσης, μετά από εξαγωγή νέου server image, σε τερματικό δεν βρίσκεται. (Καταλαβαίνω ότι τα AppImages θέλουν τοπικό κατέβασμα ανά χρήστη, παρεκτός αν γίνεται -με κάποιο κόλπο- με τη Διαχείριση ΣΕΠΕΗΥ --> δημοσίευση LTSP image, αλλά δεν έχω ακόμη βρεί το πώς.)

Τώρα λέω να πλακωθώ στο documentation, να μάθω να κάνω ερωτήσεις στην ΤΝ! Καρα-αρχάριος στον τομέα γάρ...  :)

Όταν θα φτάσω στο σημείο να κάνω την ΤΝ να μου βγάζει εικόνες, θα σας ενημερώσω γιά τις απαιτήσεις της σε ικανότητες του hardware των γραφικών. (Τελικά, μάλλον δεν χρειάζονται άγρια πράγματα.)

mandarinos

Ά! Υπ' όψιν, η ιστοσελίδα του LM Studio τονίζει σαφώς ότι σε Linux δουλεύει σε Ubuntu 22.0 - προφανώς / σαφώς και στο 24άρι, που βγήκε πρόσφατα. (Εξ ίσου καλά δουλεύει και στο Mint 21.3 .)

mandarinos

Ξεκινήσαμε!... Πολύ ωραία!

Αφού έχουμε φορτώσει ένα module, πάμε τέρμα αριστερά στο "chat", και μας ανοίγει μιά μπάρα εισόδου δεδομένων.

Τα αποτελέσματα θα τα δήτε στα επισυναπτόμενα. Σε text ερωτήσεις, απαντάει με text μιά χαρά. (Όχι στα Ελληνικά, όμως, διότι τα κάνει ελαφρώς θάλασσα!  :) )

Αλλά δυστυχώς δεν μπορεί να ζωγραφίσει! (Προφανώς πρέπει να δοκιμάσω άλλο module, να χωράει και στα 8 G RAM του server.)