Die neue Konfiguration findet man in der Datei:
/usr/share/meteor/bundle/programs/server/assets/app/config/settings.yml
Dort ändert man 8 auf 16 (empfohlen wird wegen Serverlast max. 12),

 ...
 breakoutRoomLimit: 16
 ...

dann als root:

 # bbb-conf --restart

Im Auslieferungszustand ist BBB auf 8 Breakout-Rooms begrenzt. In Foren findet sich der Hinweis, dass das daran liegt, dass die Raum-Nummer der Breakout-Räume auf eine Ziffer begrenzt ist. Jedoch gibt es auch den Hinweis, dass diese Begrenzung inzwischen aufgehoben ist:
https://github.com/bigbluebutton/bigbluebutton/issues/8657#issuecomment-665932152

Die Anzahl der Breakout-Räume ist leider in den Scripten von BBB hard-codiert, eine Konfiguration dazu gibt es nicht. Bei einem virtuellen BBB-Testserver konnte ich die Anzahl der Breakout-Räume auf 16 erhöhen. Ein ausführlicher Test mit mehreren Teilnehmern war aber mit dem virtuellen Server leider nicht möglich. Ebenso werden die Änderungen in den Scripten bei einem Update wahrscheinlich überschrieben.

Für BBB wird ein ca. 2,5 MB großes Java-Script in den Browser geladen, das die ganze Funktionalität bereitstellt. Dieses Script befindet sich unter „/usr/share/meteor/bundle/programs/web.browser/7d…93.js“. Der Dateiname ist eine zufällige? ca. 40 Stellen umfassende Zeichenkombination, ggf. ändert sich diese je nach Installation. Diese Datei liegt völlig unformatiert vor und hat fast keine Zeilenumbrüche, so dass in einem Editor die Darstellung Probleme macht. Das Script muss an zwei Stellen geändert werden.
Mit y und w werden die Grenzen der Breakout-Raum-Anzahl festgelegt.
Original:

... }}),y=2,w=8,C={intl: ...

ändern auf:

... }}),y=2,w=16,C={intl: ...

Weiter unter im JavaScript muss die nun 2-stellige Anzeige der Raum-Nummern umgesetzt werden (ist m.E. sogar ein BUG).
Original:

... t.formatMessage(m.breakoutRoom,e.sequence.toString()), ...

ändern auf:

... t.formatMessage(m.breakoutRoom, {0: e.sequence}), ...

Am Server wird die Anzahl der Breakout-Räume überprüft unter
/usr/share/meteor/bundle/programs/server/app/app.js
Original:

... if (rooms.length > 8) return Logger.info( ...

ändern auf:

... if (rooms.length > 16) return Logger.info( ...

In der Localisations-Datei
/usr/share/meteor/bundle/programs/server/assets/app/locales/de.json
kann mit den Optionen die Raumbeschriftungen abgeändert werden.
Original:

 "app.createBreakoutRoom.room": "Raum {0}",

z.B. ändern auf

 "app.createBreakoutRoom.room": "Gruppenraum {0}",