Skip to content

Use user_harakiri for all requests except streaming requests to "benkagg" AB#245865 - #1312

Open
pstokkink wants to merge 6 commits into
masterfrom
pieter/bypass-harakiri-for-certain-streaming-responses
Open

pstokkink wants to merge 6 commits into
masterfrom
pieter/bypass-harakiri-for-certain-streaming-responses

Conversation

@pstokkink

@pstokkink pstokkink commented Oct 29, 2026 •

Copy link
Copy Markdown
Contributor

Probleem: sommige streaming requests werden afgekapt door harakiri.

Geprobeerd om harakiri uit te zetten voor streaming responses van die specifieke datasets. Dit werkte niet omdat user_harakiri alleen de harakiri strakker kan zetten dan de geconfigureerde globale harakiri.

Dus omgedraaid:

  • harakiri standaard uit in de settings (andere repo)
  • harakiri wordt aangezet voor elk request (in middleware, dus aan begin van request)
  • als response streaming van benkagg is wordt harakiri weer uitgezet

Deployed op dev en getest, en de afgebroken request doet het daar nu wel. Het is mogelijk dat we op een bepaald moment tegen limieten op andere plekken in de keten aanlopen, maar voor nu lijkt dit een goede oplossing.

This branch has not been deployed

No deployments
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Development

Successfully merging this pull request may close these issues.

1 participant