NVIDIA Prezentuje Chat z RTX, Wykorzystanie Potęgi GPU do Lokalnych Chatów AI

Η NVIDIA μόλις κυκλοφόρησε την πρώτη δημόσια έκδοση του δοκιμαστικού Chat με το RTX. Όμως, όχι, δεν μπορείτε να τσατάρετε με τη γραφική σας κάρτα και να ρωτήσετε “πώς είσαι;”. Αυτό χρειάζεστε το πρόγραμμα TechPowerUp GPU-Z. Το Chat με το RTX είναι κάτι εντελώς διαφορετικό. Φανταστείτε ένα πλήρως τοπικό AI τσατ που λειτουργεί εξολοκλήρου στον υπολογιστή σας, με την ισχυρή αρχιτεκτονική της κάρτας γραφικών GeForce RTX, και δεν αποστέλλει καμία ερώτηση σε διακομιστές. Αυτό ακριβώς είναι το Chat με το RTX. Η NVIDIA εργάζεται για να το καταστήσει μια εναλλακτική λύση στο ChatGPT, το οποίο αποθηκεύει όλες τις γνώσεις του τοπικά στον υπολογιστή σας, χρησιμοποιώντας την κάρτα γραφικών GeForce RTX ως το μυαλό του.

Μέχρι το τέλος του 2024, το αναμενόμενο “έτος του ΤΝΙ Υπολογιστή” όπως προβλέπουν η Microsoft και η Intel, η NVIDIA έχει ήδη μια αξιοσημείωτη προϊοντική πρόταση εδώ και έξι χρόνια στην τεχνολογία επιτάχυνσης του ΤΝΙ. Η εταιρεία παρουσίασε την τοπικά επιταχυνόμενη τεχνολογία AI για πραγματικού χρόνου ακτινοβολία με την RTX. Στο πλαίσιο αυτής της καινοτομίας, οι γραφικές κάρτες GeForce RTX του 2017 εξοπλίστηκαν με Tensor πυρήνες. Αυτά τα εξαρτήματα ενισχύουν σημαντικά τον χτισμό και την εκπαίδευση του βαθιού νευρωνικού δικτύου AI (DNN) σε σύγκριση με τη χρήση μόνο CUDA πυρήνων. Αυτή η προοδευτική τεχνολογία ήταν ένα μεγάλο άλμα μπροστά όσον αφορά την απόδοση, αυξάνοντας τις δυνατότητες των καρτών γραφικών για εργασίες που κινούνται από την τεχνητή νοημοσύνη. Πέρα από τη μείωση του θορύβου, η NVIDIA χρησιμοποιεί την επιτάχυνση της τεχνητής νοημοσύνης για την ενεργοποίηση των χαρακτηριστικών ενίσχυσης της απόδοσης DLSS. Δεν μπορείτε να εκμεταλλευτείτε πλήρως το παιχνίδι; Ενεργοποιήστε το DLSS και επιλέξτε ένα από τα διαθέσιμα προφίλ μέχρι το παιχνίδι να λειτουργεί ομαλά με τις επιθυμητές ρυθμίσεις.

Στις πρόσφατες συζητήσεις μας με την NVIDIA, η εταιρεία δήλωσε ρητά ότι δεν εντυπωσιάζεται ιδιαίτερα από τους τελευταίους επεξεργαστές της Intel και της AMD, οι οποίοι εισάγουν μονάδες νευρικής επεξεργασίας (NPU); Προσφέρουν απόδοση από 10 έως 16 TOPS μόνο για το NPU και όχι περισσότερα από 40 TOPS για ολόκληρο το σύστημα (NPU + CPU + iGPU). Οι μοντέλα NVIDIA GeForce RTX, χάρη στους Tensor πυρήνες τους, προσφέρουν απόδοση 20 έως 100 (!) φορές υψηλότερη μέσω της μαζικής επιτάχυνσης ΤΝΙ στην αρχιτεκτονική της GPU. Ενώ οι μονάδες NPU βασισμένες σε CPU αποσκοπούν στην επεξεργασία απλού κειμένου και εικόνων με βάση την τεχνητή νοημοσύνη, η NVIDIA χρησιμοποιεί την τεχνητή νοημοσύνη σε έναν εντελώς διαφορετικό επίπεδο, ακόμα και σήμερα. Απλά σκεφτείτε να δημιουργείτε το κάθε άλλο καρέ στην τεχνολογία DLSS 3 Frame Generation ή να μειώνετε το θόρυβο σε μια σκηνή 4Κ σε πραγματικό χρόνο παιχνιδιού με πάνω από 60 καρέ ανά δευτερόλεπτο, ανάλογα με την ανάλυση. Με άλλα λόγια, οι κάρτες γραφικών GeForce RTX έχουν τεράστιες δυνατότητες επιτάχυνσης του υλικού ΤΝΙ που παραμένουν αχρησιμοποίητες όταν δεν παίζετε παιχνίδια. Γι’ αυτό η NVIDIA αποφάσισε να δείξει στους gamers ότι είναι δυνατό να τρέξουν πλήρως τοπικά AI εργαλεία χρησιμοποιώντας αυτήν την επιτάχυνση στο υλικό. Η εταιρεία είναι μόλις στην αρχή και ένα από τα πρώτα της έργα είναι το Chat με το RTX, το οποίο σας παρουσιάζουμε σε μια προεπισκόπηση σήμερα. Με εκατομμύρια gamers που χρησιμοποιούν τις κάρτες γραφικών GeForce RTX, η μεγάλη βάση χρηστών της NVIDIA σημαίνει ότι μπορούμε να αναμένουμε την εταιρεία να παίξει πιο ενεργό ρόλο στον κόσμο του PC AI, προσφέροντας επιπλέον εμπειρίες και εργαλεία AI για υπολογιστές με κάρτες γραφικών GeForce RTX.

Όπως αναφέρθηκε προηγουμένως, το Chat με το RTX είναι μια πλατφόρμα γεννητικής τεχνητής νοημοσύνης βασισμένη σε κείμενο, παρόμοια με τα ChatGPT ή Copilot, αλλά δεν αποστέλλει καμία δεδομένα στο cloud ή χρησιμοποιεί δεδομένα από το internet. Τα δεδομένα που χρησιμοποιούνται είναι αυτά που παρέχετε εσείς. Έχετε ακόμα τη δυνατότητα να επιλέξετε ανάμεσα στα μοντέλα ΤΝΙ Llama2 και Mistral. Για το τεχνικό δοκιμαστικό Chat με το RTX, η NVIDIA παρέχει τα μοντέλα Llama2 και Mistral μαζί με τα ενημερωμένα τους δεδομένα μέχρι τα μέσα του 2022.

Σε αυτό το άρθρο, θα δοκιμάσουμε το demo του Chat με το RTX για να σας δείξουμε τις δυνατότητες που προσφέρει στην παροχή ισχυρών, πλήρως offline AI τσατ για gamers.

Συχνές Ερωτήσεις:

1. Τι είναι το Chat με το RTX;
Το Chat με το RTX είναι μια πλατφόρμα γεννητικής τεχνητής νοημοσύνης βασισμένη σε κείμενο που προσφέρει τοπικά AI τσατ για gamers.

2. Πώς χρησιμοποιεί το Chat με το RTX τα πυρήνες της κάρτας γραφικών GeForce RTX;
Το Chat με το RTX αξιοποιεί τους ισχυρούς πυρήνες της κάρτας γραφικών GeForce RTX για την επιτάχυνση του AI τσατ.

3. Εξαρτάται το Chat με το RTX από το cloud ή δεδομένα του internet;
Όχι, το Chat με το RTX λειτουργεί πλήρως offline και δεν εξαρτάται από το cloud ή δεδομένα του internet.

4. Ποια AI μοντέλα είναι διαθέσιμα στο Chat με το RTX;
Τα διαθέσιμα AI μοντέλα στο Chat με το RTX είναι το Llama2 και το Mistral.

5. Πώς μπορώ να παρέχω δεδομένα για το Chat με το RTX;
Ως χρήστης, μπορείτε να παρέχετε δεδομένα που θα χρησιμοποιηθούν από το Chat με το RTX.

6. Ποιες δυνατότητες προσφέρει το Chat με το RTX για gamers;
Το Chat με το RTX προσφέρει ισχυρά, πλήρως offline AI τσατ για gamers.

Σχετικοί σύνδεσμοι:
– NVIDIA Homepage

The source of the article is from the blog agogs.sk