Durable Objects wreszcie działają bez zbędnych pingów

Problem z Durable Objects polegał na tym, że były one usuwane po 70–140 sekundach braku aktywności CPU, co powodowało, że aplikacje oparte na modelach językowych (LLM) mogły doświadczać przerywania połączeń w trakcie przetwarzania. W praktyce oznaczało to, że programiści musieli pisać dodatkowy kod, aby utrzymać aktywność obiektów poprzez tzw. heartbeat, co wprowadzało niepotrzebne komplikacje i problemy z równoległością. Od 19 czerwca, dzięki nowej aktualizacji, Durable Objects mogą pozostać aktywne przez cały czas trwania aktywnego połączenia wychodzącego, z maksymalnym limitem 15 minut na połączenie. To oznacza, że jeśli zarządzasz WebSocketem do LLM lub utrzymujesz sesję TCP z zewnętrzną usługą, obiekt nie zostanie usunięty, dopóki połączenie jest otwarte.

Jak to działa

Nowe podejście Cloudflare do zarządzania obiektami pozwala na automatyczne utrzymanie aktywności, co eliminuje konieczność pisania skomplikowanego kodu. Zmiana ta dotyczy wszystkich aplikacji działających w chmurze, które korzystają z Durable Objects. Programiści mogą skupić się na rozwoju funkcji, zamiast tracić czas na obejścia związane z zarządzaniem sesjami. To znaczący krok w kierunku uproszczenia procesu tworzenia aplikacji, który ma realny wpływ na wydajność i stabilność.

Co ustawić

Aby skorzystać z tej aktualizacji, nie są wymagane żadne zmiany w istniejącym kodzie. Wystarczy, że aplikacja korzysta z Durable Objects w sposób zgodny z nowymi zasadami. Warto jednak przeprowadzić audyt kodu, aby upewnić się, że nie ma już niepotrzebnych pingów ani innych obejść, które mogą wprowadzać zamieszanie. Eliminacja tych fragmentów kodu nie tylko uprości logikę, ale także zmniejszy ryzyko wystąpienia błędów związanych z czasem reakcji.

Typowe problemy

Chociaż nowa funkcjonalność znacząco poprawia działanie Durable Objects, mogą wystąpić pewne problemy, takie jak błędne zrozumienie czasu działania sesji czy nadmierne obciążenie serwera przy dużej liczbie jednoczesnych połączeń. Warto monitorować aplikacje pod kątem wydajności i ewentualnie dostosować zasoby serwerowe. Użytkownicy powinni także zwracać uwagę na ewentualne opóźnienia w przetwarzaniu danych, które mogą wystąpić przy dużej liczbie aktywnych obiektów.

Cloudflare wprowadza zmiany, które nie tylko upraszczają procesy, ale również zwiększają stabilność aplikacji. Zmiana ta jest korzystna dla wszystkich, którzy wykorzystują Durable Objects do tworzenia nowoczesnych aplikacji opartych na chmurze. Warto być na bieżąco z aktualizacjami, które mają wpływ na infrastrukturę, aby maksymalnie wykorzystać jej możliwości.