Jein. Das ist so ne Sache. Also wie GIMPS im Detail funktioniert, ist auf ihrer Seite erklärt. Hier etwas allgemeiner. Wenn du nach einer großen Primzahl suchst gehst du so vor:

0. Wähle eine beliebige / die zu testende Zahl.

1. Teste einfache Faktorisierungsalgorithmen ob sich ein kleiner Faktor findet. Probedivision ist ineffizient. Da gibt es bessere Algorithmen wie die verschiedene Sieb Algorithmen (quadratisches oder Zahlkörper Sieb etc.)

Wird dir irgendwann langweilig weil du nichts findest, machst du weiter mit.

2. Führe einen PRP test durch (probable prime test) z.B. Miller-Rabin. Diese wiederholt man solange bis man entweder ein 'nicht prim' erhält oder die Wahrscheinlichkeit dass die Zahl prim ist dir hoch genug ist. Für das Beispiel miller rabin ist die Wahrscheinlichkeit dass eine nicht primzahl als 'wahrscheinlich prim' erkannt wird pro run kleiner 50% (zwei runs also 25% usw.)

In den meisten Anwendungen ist das genug und man ist zufrieden. (Im übrigen auch für den gesamten Kryptographie Kram. Also womöglich hackt sich jemand irgendwo bei dir rein weil dein private rsa key doch nicht nur zwei Primfaktoren hat ;). Wenn es genau sein muss wie auch hier in Gimps kommt:

3. Ein Exakter Primtest. Probedivision bis zur Quadratwurzel hat exponentielle Laufzeit. Auf dem papier geht das aber praktisch unbrauchbar. Normalerweise suchst du nach einem primtest der speziell für deine Anwendung funktioniert. Im Fall von mersenne Zahlen ist das lukas-lehmer. Der Algorithmus ist auf der Seite erklärt.

Fun fact: während man zwar nicht weiß ob Faktorisierung polynomiell geht, liegt prim testen sicher in P. Es gibt den AKS primzahltest. Nur ist der ein Paradebeispiel warum Komplexitätsklassen praktisch nicht unbedingt sinnvoll sind. Die Konstanten sind so groß, dass er trotzdem 'ewig' brauch.