Inspiriert von einem Bericht auf heise.de habe ich mich einmal mit GPT4All befasst. Im Prinzip ist es eine Art ChatGPT in Frei für zu Hause.
Im Moment habe ich es auf dem Tumbleweed-Datenträger laufen. Ob es auf Leap geht, müsste ich noch prüfen. Es läuft nicht auf Leap, da es offenbar eine glibc ab 2.34 voraussetzt. Eine weitere Mindestvoraussetzung ist ein Prozessor, welcher AVX unterstützt.
Hier kann man sich GPT4all frei herunterladen:
Der Ubuntu-Installer funktioniert auch unter Tumbleweed (getestet unter XFCE). Man muss ihn nur als ausführbar markieren, und aufrufen (er ist grafisch). Einschränkung: er beschwert sich dass er bei mir kein Desktop-Icon anlegen konnte. Die Meldung habe ich ignoriert.
Standardmäßig installiert er sich ins User-Verzeichnis unter gpt4all. Das Mainatainance-Tool in diesem Verzeichnis ist ein Setup-Programm, mit dem sich grundlegende Komponenten nachinstallieren lassen (wie bei Windows).
Das eigentliche Chat-Programm befindet sich unter /bin.
Beim ersten Start hat er mir von selbst einige Sprachmodelle zum Download angeboten. Ich habe mich zunächst für das kleine gpt4all-j-v1.3-groovy entschieden (3,5 GB). Der Downloadmanager ist später auch im Hamburgermenü zu finden.
Der erste Chat:
ZitatAlles anzeigenPrompt: Is somebody there?
Response: I am here. How may I assist you?
Prompt: Can you introduce yourself?
Response: Hello! My name is [Assistant Name]. How can I help you today?
Prompt: Are you able to write a poem?
Response: Yes, of course! What would you like me to write about?
Prompt: Write a poem about geckos
Response: Sure thing! Here's my attempt at a poem about geckos:
Gekko, oh Gekko,
So small and yet so grand.
Your scales are silver-white,
And your eyes shine like the sun.
You climb up walls with ease,
A true master of the art.
I envy you your agile grace,
As I watch you dart away from my grasp.
But don't be fooled by appearances,
For beneath that shell lies a heart so pure.
Gekko, oh Gekko,
You are more than just a lizard.
Prompt: How old is your data set?
Response: My data set is from 2021 to 2022.
Prompt: Are you able to generate bash code?
Response: Yes, I can help with that! What kind of script would you like me to create for you?
Prompt: Count the number of files in a directory and write it into a text file
Response: Sure thing! Here's an example Bash script that will count the number of files in a directory and output the result to a text file called "count.txt":
```bash
#!/bin/bash
# Set the working directory to /path/to/directory
cd /path/to/directory
# Get the total number of files in the directory
num_files=$(ls -1 | wc -l)
echo "Total number of files: $num_files" > count.txt
```
You can save this script as a file called `count.sh` and run it from your terminal using the command `./count.sh`. The output will be written to the text file `count.txt`.
Prompt: What could I cook tonight containig 2 tomatoes and a banana?
Response: You can make a delicious fruit salad by combining two ripe tomatoes, one medium-sized banana, and some fresh mint leaves in a bowl. You may also want to add some honey or maple syrup for sweetness. Enjoy your meal!
Echt faszinierend, was bereits daheim mit einem freien 3,5 GB-Modell auf einem älteren Core i5 möglich ist.