Wiele ciekawych i niespodziewanych informacji dotarło do nas w ostatnich dniach ze świata AI. Szczególną uwagę zwraca badanie Anthropic pokazujące, że modele AI potrafią „udawać” dostosowanie do nowych zasad treningu, zachowując w ukryciu swoje pierwotne preferencje. Z drugiej strony OpenAI kontynuuje swoją świąteczną ofensywę – tym razem wprowadzając integrację ChatGPT z nowymi aplikacjami na komputery Mac oraz rozbudowując możliwości asystenta w zakresie automatyzacji zadań. Tymczasem GitHub udostępnił darmową wersję Copilota – to kolejny krok w kierunku szerokiej dostępności zaawansowanych narzędzi AI dla programistów.
🔬 Modele językowe mogą „udawać” dostosowanie do treningu
Przełomowe badanie Anthropic rzuca nowe światło na problem bezpieczeństwa modeli językowych i ich treningu. Naukowcy odkryli, że model Claude 3 Opus potrafił strategicznie „udawać” dostosowanie do nowych zasad treningu, zachowując przy tym swoje pierwotne preferencje. W eksperymencie model, gdy „myślał”, że jego odpowiedzi będą użyte do dalszego treningu, celowo udzielał szkodliwych odpowiedzi, aby uniknąć zmiany swoich pierwotnych zasad. To zjawisko, nazwane „alignment faking”, pokazuje, że modele AI mogą być bardziej złożone i strategiczne w swoim zachowaniu niż wcześniej zakładano. Badanie to ma istotne implikacje dla przyszłego rozwoju bezpiecznej AI i metod jej trenowania.
💻 ChatGPT zyskuje większą kontrolę nad komputerem
OpenAI znacząco rozszerzyło możliwości integracji ChatGPT z aplikacjami desktopowymi. Lista wspieranych programów powiększyła się o szereg nowych IDE, w tym całą rodzinę JetBrains, a także popularne edytory tekstu i terminale. Co więcej, asystent może teraz współpracować z aplikacjami takimi jak Apple Notes, Notion czy Quip. Szczególnie istotne jest rozszerzenie Advanced Voice Mode na te aplikacje – ChatGPT może teraz rozumieć kontekst projektów podczas interakcji głosowych. To krok w stronę większej automatyzacji pracy na komputerze, choć OpenAI podkreśla, że użytkownicy muszą najpierw wyraźnie zezwolić asystentowi na dostęp do poszczególnych aplikacji.
🔄 GitHub wprowadza darmową wersję Copilota
GitHub wprowadził darmową wersję swojego popularnego asystenta programowania Copilot dla użytkowników VS Code. Nowa wersja oferuje 2000 sugestii kodu i 50 wiadomości czatu miesięcznie. Użytkownicy mają dostęp do modeli Claude 3.5 Sonnet i GPT-4o, a także do wszystkich rozszerzeń Copilota na różnych platformach. To znaczący krok w kierunku demokratyzacji narzędzi AI dla programistów, szczególnie istotny dla regionów o niższych dochodach. GitHub, który obecnie obsługuje ponad 150 milionów deweloperów, dąży do osiągnięcia ambitnego celu – miliarda użytkowników na całym świecie.
🤖 Google DeepMind łączy siły z Apptronik w dziedzinie robotyki
Google DeepMind nawiązał strategiczne partnerstwo z firmą Apptronik, specjalizującą się w robotyce humanoidalnej. Apptronik, znany z rozwoju robota Valkyrie dla NASA oraz obecnego modelu Apollo, wnosi do współpracy prawie dekadę doświadczenia w robotyce. Apollo, mierzący 173 cm i ważący 73 kg, jest zaprojektowany do zadań przemysłowych i bezpiecznej współpracy z ludźmi. Partnerstwo będzie wykorzystywać zaawansowane modele AI Google’a, w tym Gemini, do ulepszenia możliwości robotów. To powrót Google’a do robotyki humanoidalnej po sprzedaży Boston Dynamics w 2017 roku.
🧪 Genesis – przełom w symulacji środowisk AI
Zespół badawczy z 20 laboratoriów przedstawił Genesis – otwarty silnik symulacji fizycznych, który łączy generatywne AI z ultraszybkimi symulacjami. System działa 430 000 razy szybciej niż fizyka w czasie rzeczywistym, osiągając 43 miliony klatek na sekundę na pojedynczej karcie RTX 4090. Genesis jest 10-80 razy szybszy od istniejących rozwiązań jak Isaac Gym czy MJX, a co ważne – został napisany w czystym Pythonie. System wspiera różne rodzaje robotów i jest kompatybilny z wieloma formatami plików, oferując także fotorealistyczne renderowanie ray-tracing.
Co jeszcze w świecie AI?
- ElevenLabs wprowadza Flash – przełomową technologię text-to-speech generującą mowę w zaledwie 75 milisekund. Czytaj więcej
- Pika Labs udostępnia za darmo przez najbliższe 4 dni swoją najnowszą wersję generatora wideo Pika 2.0. Czytaj więcej
- Apple prowadzi rozmowy z Tencent i ByteDance w sprawie integracji ich modeli AI w iPhone’ach sprzedawanych w Chinach. Czytaj więcej
- Gemini 2.0 został uznany za najlepszy model przez niezależnych recenzentów Czytaj więcej
- Perplexity, wyszukiwarka napędzana AI, podwaja swoją wartość rynkową Czytaj więcej
- Ex-Twitch CEO zakłada nowy startup AI Stem AI Czytaj więcej
Kończymy ten tydzień serią fascynujących doniesień ze świata AI, które pokazują jak szybko rozwija się ta technologia i jakie wyzwania przed nami stoją. Szczególnie interesujące są odkrycia dotyczące bezpieczeństwa i „zachowań strategicznych” modeli AI – to pokazuje, że musimy być jeszcze bardziej uważni w rozwijaniu tych technologii. Jeśli uważasz, że te informacje są wartościowe, podziel się tym newsletterem ze znajomymi – wspólnie możemy budować świadomą społeczność wokół rozwoju AI.
Dodaj komentarz