Damit der OpenID Connect / OAuth2 Server angezeigt wird, musst Du - wie für alle Anwendungen in der EGroupware - ein Ausführungsrecht dafür haben. Kann man z.B. mit Rechtsklick auf der Admin Gruppe > Zugriffsrechte > Ausführungsrechte anlegen.
Ob der Server läuft kannst Du einfach prüfen, in dem Du Dich aus EGroupware abmeldest, die URL von /egroupware/ auf /rocketchat/ änderst und dann solltest Du von Rocket.Chat auf die EGroupware Anmeldeseite geschickt werden.
Wenn Du danach wieder auf der Rocket.Chat Anmeldeseite landest statt in Rocket.Chat, kann der Rocket.Chat Container nicht unter deinem Domainnamen mit der EGroupware kommunizieren. In der Regel hilft es dann in /etc/egroupware-rocketchat/docker-compose.override.yml den auskommentierten Extra-Host zu verwenden:
Dort trägst Du dann - "egw.example.org:172.17.0.1"
ein, damit Rocket.Chat über das docker0 Interface mit EGroupware spricht und nicht über die externe Adresse, was bei Dir anscheinend eine Firewall blockiert.
Generell bieten wir auch Support-Budgets um solche Probleme schnell zu lösen:
Ralf