Wenn ich dein Anliegen richtig verstanden hab, dann ist das mit den nativen Gimpfunktionen nicht (automatisch) machbar.
Wenn man zusätzlich
G'MIC (eine umfangreiche Pluginsammlung) installiert hat, dann findet man unter "Filter" > "G'MIC" > "Deformations" den Filter "Square to circle".
Der macht so etwas.
Dazu rechts in den Optionen den Modus auf "circle to square" ändern und ggf. noch weitere Optionen anpassen (Interpolationsmethode o.ä.), unter der Vorschau die Ausgabemethode (Ursprungsebene ersetzen, neue Ebene erzeugen etc.) festlegen und "ok" drücken.
Allerdings wird eben der gesamte Inhalt des ursprünglichen runden Bildes verzerrt. (siehe Anhang)