Erste Erfahrungen mit freiem GPT4All 2.4.6 und dem KI-Sprachmodell gpt4all-j-v1.3-groovy unter Tumbleweed

Hinweis: In dem Thema Erste Erfahrungen mit freiem GPT4All 2.4.6 und dem KI-Sprachmodell gpt4all-j-v1.3-groovy unter Tumbleweed gibt es 1 Antwort.
  • Inspiriert von einem Bericht auf heise.de habe ich mich einmal mit GPT4All befasst. Im Prinzip ist es eine Art ChatGPT in Frei für zu Hause.


    Im Moment habe ich es auf dem Tumbleweed-Datenträger laufen. Ob es auf Leap geht, müsste ich noch prüfen. Es läuft nicht auf Leap, da es offenbar eine glibc ab 2.34 voraussetzt. Eine weitere Mindestvoraussetzung ist ein Prozessor, welcher AVX unterstützt.


    Hier kann man sich GPT4all frei herunterladen:

    https://gpt4all.io/index.html


    Der Ubuntu-Installer funktioniert auch unter Tumbleweed (getestet unter XFCE). Man muss ihn nur als ausführbar markieren, und aufrufen (er ist grafisch). Einschränkung: er beschwert sich dass er bei mir kein Desktop-Icon anlegen konnte. Die Meldung habe ich ignoriert.


    Standardmäßig installiert er sich ins User-Verzeichnis unter gpt4all. Das Mainatainance-Tool in diesem Verzeichnis ist ein Setup-Programm, mit dem sich grundlegende Komponenten nachinstallieren lassen (wie bei Windows).


    Das eigentliche Chat-Programm befindet sich unter /bin.


    Beim ersten Start hat er mir von selbst einige Sprachmodelle zum Download angeboten. Ich habe mich zunächst für das kleine gpt4all-j-v1.3-groovy entschieden (3,5 GB). Der Downloadmanager ist später auch im Hamburgermenü zu finden.


    Der erste Chat:


    Echt faszinierend, was bereits daheim mit einem freien 3,5 GB-Modell auf einem älteren Core i5 möglich ist. 8)

    Einmal editiert, zuletzt von Spaceloop ()

    Für den Inhalt des Beitrages 306564 haftet ausdrücklich der jeweilige Autor: Spaceloop