OpenAI wydaje Sorę – Wszystko, co musisz wiedzieć o najnowszym modelu AI generowania wideo

OpenAI Wypuszcza Sora, nowego modelu SI, który tworzy realistyczne i wymyślne sceny z technicznych instrukcji. Co musisz wiedzieć?

OpenAI wypuścił jeden z najpopularniejszych modeli SI, jakie widzieliśmy do tej pory. Dołączając do ChatGPT i Dall-E, w generatywnej stajni OpenAI jest Sora, “model SI, który może tworzyć realistyczne i wymyślne sceny na podstawie instrukcji tekstowych”. Model OpenAI poprawia niedoskonałości innych modeli, takich jak Runway AI, który uruchomiono w kwietniu 2023 roku. Przybycie modelu SI o tak obszernych możliwościach, jak Sora, rodzi wiele pytań, na które trzeba będzie odpowiedzieć, zwłaszcza w kontekście bezpieczeństwa tego modelu.

Jak uzyskać dostęp do Sora i jak bezpieczny jest model?

Pierwszą rzeczą, która przychodzi do głowy po obejrzeniu tych filmów przypominających Hollywood, jest multum obaw dotyczących bezpieczeństwa związanych z modelem Sora. Widzieliśmy, jak modele SI generatywne były wykorzystywane w różnych sposób. Jednak z tak wydajnym modelem, jak ten, OpenAI zapewniło, że od samego początku podejmuje wszystkie niezbędne środki ostrożności.

Jak to zwykle bywa z każdym modelem SI, dostęp do Sora jest na razie ograniczony od czasu uruchomienia. W komunikacie prasowym firma zakomunikowała również, że aktywnie pracuje nad przeprowadzaniem testów, które skupią się na zapewnieniu, że najważniejsze scenariusze związane z tym produktem zostaną poddane testom. Powiedzieli, “Współpracujemy z czerwoną drużyną – ekspertami w dziedzinach takich jak dezinformacja, zawartość nienawistna i uprzedzenia – którzy w sposób opozycyjny będą testować model.”

Kontrole, które są wdrożone, będą przeprowadzane na wielu poziomach przez OpenAI. Oprócz kontroli wykonywanych na poleceniach, będą sprawdzane również wszystkie klatki filmu, które zostały wygenerowane przy użyciu Sora. Dodali, “Opracowaliśmy również wytrzymałe klasyfikatory obrazów, które mają na celu sprawdzenie wartości naszych zasad użytkowania, zanim zostanie pokazany użytkownikowi.”

Z wypuszczeniem Sora, OpenAI ma doświadczenie w przeciwdziałaniu przeciwnikom, którzy próbowali naruszyć zasady modelu, stawiając czoła konsekwencjom nadużyć ze swoich wcześniejszych modeli, takich jak ChatGPT i Dall-E. Wszystkie te modele stały się mądrzejsze w odrzucaniu zapytań, które testowały granice ich bezpieczeństwa i zagrożeń. Nie tylko to, ale też stały się lepsze w tym, co robią. Tak więc droga do przodu dla Sora wygląda podobnie, z jedyną różnicą, że tym razem guziki zostaną ominięte lepiej niż kiedykolwiek wcześniej. Możemy tylko poczekać i mieć nadzieję na najlepsze.

Źródło : www.bing.com