The 2024 AI Index Report (BG)
AI Index Report 2024 — седмото годишно издание на доклада AI Index, изготвен от Станфордския институт за човекоцентриран изкуствен интелект (Stanford HAI)[1]. Докладът за 2024 година е най-мащабният в цялата история на публикацията и излиза в момент, когато влиянието на ИИ върху обществото е безпрецедентно видимо. Изданието включва нови оценки на разходите за обучение на модели, детайлен анализ на отговорния ИИ и за първи път съдържа отделна глава, посветена на влиянието на ИИ върху науката и медицината. Докладът проследява, систематизира и визуализира данни, свързани с изкуствения интелект, предоставяйки обективна и щателно верифицирана информация за политици, изследователи, ръководители, журналисти и широката общественост.
Структура на доклада
Докладът за 2024 година се състои от девет тематични глави[1]:
- Изследвания и разработки (Research and Development) — тенденции в публикациите, патентите, базовите модели и отворените проекти.
- Техническа производителност (Technical Performance) — benchmark-ове, сравнение с човешкото ниво, мултимодалност.
- Отговорен ИИ (Responsible AI) — инциденти, безопасност, предубеденост, поверителност.
- Икономика (Economy) — инвестиции, пазар на труда, корпоративно внедряване, роботизация.
- Наука и медицина (Science and Medicine) — нова глава: пробиви в науката и медицинските приложения на ИИ.
- Образование (Education) — подготовка на кадри, образователни програми, ChatGPT в обучението.
- Политика и управление (Policy and Governance) — законодателство, регулиране, национални стратегии.
- Многообразие (Diversity) — полово и етническо многообразие в сферата на ИИ.
- Обществено мнение (Public Opinion) — отношение на населението към ИИ според международни проучвания.
Ключови изводи на доклада (Top 10)
Авторите на доклада са откроили десет главни тезиса за 2024 година[1]:
1. ИИ превъзхожда хората в редица задачи, но не във всички
Системите за изкуствен интелект превъзхождат човешкото ниво при няколко benchmark-а, включително класификация на изображения (ImageNet), визуално разсъждаване (VQA) и разбиране на английски език (SuperGLUE). При това ИИ все още отстъпва на хората в по-сложни задачи: олимпийска математика (MATH), визуално ежедневно разсъждаване и планиране[1].
2. Индустрията доминира в авангардните ИИ изследвания
През 2023 година индустрията създаде 51 значими модела на Machine Learning, докато академичната среда — само 15. При това 21 модела са резултат от съвместна работа на индустрията и академията — рекорден показател[1].
3. Разходите за обучение на авангардни модели рязко нарастват
Според оценки на AI Index и Epoch AI, разходите за обучение на GPT-4 са около 78 млн. долара, а на Gemini Ultra от Google — около 191 млн. долара[2]. За сравнение: обучението на оригиналния модел Transformer през 2017 година е струвало около 900 долара, а RoBERTa Large през 2019 година — около 160 хиляди[1].
4. САЩ лидират като източник на водещи ИИ модели
През 2023 година 61 значими ИИ модела са създадени в организации на САЩ, значително изпреварвайки ЕС (21 модела) и Китай (15 модела)[1].
5. Стандартизираните оценки за отговорност на LLM сериозно изостават
Изследването на AI Index разкри значителен дефицит на стандартизация в отчетността по отговорен ИИ. Водещите разработчици — OpenAI, Google и Anthropic — тестват своите модели на различни benchmark-ове за отговорен ИИ, което затруднява системното сравняване на рисковете[1].
6. Инвестициите в генеративен ИИ нарастват стремително
Въпреки общото намаление на частните инвестиции в ИИ, финансирането на генеративния ИИ се увеличи почти осем пъти в сравнение с 2022 година, достигайки 25,2 млрд. долара. Големи кръгове на финансиране привлякоха OpenAI, Anthropic, Hugging Face и Inflection[3].
7. ИИ повишава производителността и качеството на труда
Многобройни изследвания от 2023 година показаха, че ИИ помага на работниците да изпълняват задачи по-бързо и с по-високо качество, а също така намалява разликата между нискоквалифицираните и висококвалифицираните специалисти. Същевременно редица трудове предупреждават, че използването на ИИ без подходящ контрол може да доведе до спад в производителността[1].
8. Научният прогрес се ускорява благодарение на ИИ
През 2023 година бяха представени значими научни приложения на ИИ: AlphaDev (ускоряване на алгоритми за сортиране), GNoME (откриване на нови материали), GraphCast (прогнозиране на времето) и други[1].
9. Броят на нормативните актове за ИИ в САЩ рязко нарасна
През 2023 година бяха приети 25 нормативни акта, свързани с ИИ — ръст от 56,3% в сравнение с предходната година. За сравнение: през 2016 година беше приет само един такъв акт[1].
10. Хората все повече са наясно с влиянието на ИИ — и все повече са обезпокоени
Според данни на Ipsos делът на респондентите, смятащи, че ИИ ще окаже съществено влияние върху живота им през следващите 3–5 години, е нараснал от 60% на 66%. При това 52% изразяват тревожност по отношение на продуктите и услугите на ИИ — ръст от 13 п.п. спрямо 2022 година. В САЩ, според данни на Pew Research, 52% от американците съобщават за по-голяма обезпокоеност, отколкото ентусиазъм по повод на ИИ (37% през 2022 година)[4][5].
Глава 1. Изследвания и разработки
Главата анализира тенденциите в публикациите, патентите, авангардните ИИ системи, базовите модели (foundation models), конференциите и отворените програмни проекти[1].
Публикации
Общият брой публикации по ИИ продължава да расте: от около 88 000 през 2010 година до над 240 000 през 2022 година (почти троен ръст). Нарастването за последната година е 1,1%[1].
Патенти
Броят на предоставените патенти в сферата на ИИ в световен мащаб рязко се е увеличил: от 2021 до 2022 година ръстът е 62,7%, а от 2010 година — над 31 пъти. Китай доминира в патентоването на ИИ: през 2022 година негов дял съставлява 61,1% от патентните заявки, докато делът на САЩ е 20,9% (намаление от 54,1% през 2010 година)[1].
Авангардни модели
През 2023 година индустрията продължи да доминира в създаването на авангардни модели. Бяха пуснати 149 базови модела — два пъти повече, отколкото през 2022 година. От тях 65,7% бяха с отворен изходен код (в сравнение с 44,4% през 2022 година и 33,3% през 2021 година)[1].
Разходи за обучение. Сътрудничеството на AI Index с Epoch AI позволи да се получат уточнени оценки на разходите за обучение на модели. Нарастването на разходите се илюстрира нагледно от следната динамика[2]:
| Модел | Година | Оценка на разходите за обучение (USD) |
|---|---|---|
| Transformer | 2017 | ~930 |
| BERT-Large | 2018 | ~3 300 |
| RoBERTa Large | 2019 | ~160 000 |
| GPT-3 175B | 2020 | ~4,3 млн. |
| PaLM 540B | 2022 | ~12,4 млн. |
| Llama 2 70B | 2023 | ~3,9 млн. |
| GPT-4 | 2023 | ~78 млн. |
| Gemini Ultra | 2023 | ~191 млн. |
Национална принадлежност. През 2023 година 61 значими модела са създадени от организации на САЩ, 21 — от ЕС, 15 — от Китай. Това потвърждава водещата роля на САЩ в разработката на авангардни ИИ системи[1].
Отворен софтуер
Броят на ИИ проектите в GitHub неотклонно расте: от 845 през 2011 година до около 1,8 млн. през 2023 година. През 2023 година беше регистриран ръст от 59,3%. Общият брой звезди за ИИ проекти се утрои: от 4,0 млн. през 2022 година до 12,2 млн. през 2023 година[1].
Конференции
Посещаемостта на водещите ИИ конференции (NeurIPS, ICML, ICLR и др.) продължи да расте, отразявайки нарастващия интерес към областта[1].
Глава 2. Техническа производителност
Главата анализира напредъка на ИИ системите в задачи по обработка на език, генериране на изображения, разсъждаване, програмиране и агентно поведение[1].
Състояние на производителността на ИИ
Към 2023 година ИИ превъзхожда човешкото ниво в няколко категории задачи: класификация на изображения (от 2015 година), базово разбиране на текст (от 2017 година), визуално разсъждаване (от 2020 година), логическо заключение на естествен език (от 2021 година). Въпреки това в задачи като олимпийска математика (MATH) и планиране ИИ все още отстъпва на хората[1].
Езикови модели
HELM. Benchmark-ът Holistic Evaluation of Language Models (HELM), разработен в Станфорд, оценява LLM по десет сценария, включително разбиране на текст, математика и правни разсъждения. Към януари 2024 година GPT-4 лидира с показател mean win rate 0,96[6].
MMLU. Benchmark-ът Massive Multitask Language Understanding (MMLU) оценява моделите по 57 предметни области. Gemini Ultra от Google пръв надхвърли човешкото базово ниво (89,8%), постигайки 90,0% — подобрение с 14,8 п.п. в сравнение с 2022 година и с 57,6 п.п. от създаването на benchmark-а през 2019 година[7].
Chatbot Arena. Платформата, стартирала през 2023 година, позволява на потребителите да сравняват генерациите на анонимни модели. Към началото на 2024 година GPT-4 Turbo е признат за най-предпочитания модел въз основа на над 200 000 гласа[1].
Мултимодалност
Традиционно ИИ системите бяха ограничени до една модалност. Въпреки това през 2023 година се появиха мощни мултимодални модели — Google Gemini и OpenAI GPT-4, способни да обработват текст, изображения, а в някои случаи и аудио. Benchmark-ът MMMU (Massive Multi-discipline Multimodal Understanding) показа, че Gemini Ultra лидира с 59,4%, но това е съществено по-ниско от нивото на човека-експерт (82,6%)[8].
Разсъждаване
GPQA. Benchmark-ът Graduate-Level Google-Proof Q&A включва 448 сложни въпроса по биология, физика и химия, на които не може да се отговори с обикновено търсене в Google. GPT-4 с търсене постигна 41,0%, което е по-ниско от нивото на експертите (72,5%), но по-високо от нивото на неексперти (30,5%)[9].
Теория на съзнанието (BigToM). Тестването на способността на LLM да моделират убежденията на другите хора показа, че GPT-4 се доближава до човешкото ниво в задачи за пряко извеждане на убеждения и действия, макар все още да отстъпва в задачи за обратно извеждане на убеждения[10].
Програмиране
Benchmark-ът HumanEval оценява генерирането на код. През 2023 година моделите продължиха да подобряват показателите си, а SWE-bench — нов benchmark за оценка на решаването на реални задачи от софтуерното инженерство — показа, че дори най-добрите модели решават само малка част от задачите, демонстрирайки значителен потенциал за по-нататъшен напредък[1].
Агентно поведение
ИИ системите все по-често се тестват в агентни сценарии. Voyager (Microsoft) демонстрира способност за автономно обучение в динамичната среда на Minecraft, събирайки 3,3 пъти повече уникални предмети, придвижвайки се 2,3 пъти по-далеч и достигайки ключови етапи 15,3 пъти по-бързо в сравнение с предходните модели[11]. MLAgentBench показа, че ИИ агентите за научни изследвания имат потенциал, но резултатите варират съществено между задачите[1].
Свойства на LLM
Емерджентно поведение. Изследване от 2023 година постави под съмнение представата за неизбежността на непредсказуеми „емерджентни" способности при мащабиране на моделите. При използване на линейни и непрекъснати метрики такива способности в значителна степен изчезват[12].
Деградация на производителността. Изследване на Станфорд и Бъркли показа, че производителността на GPT-4 може да се променя съществено между актуализациите: версията от юни 2023 година се оказа с 42 п.п. по-лоша от версията от март при генериране на код и с 33 п.п. по-лоша при математически задачи[13].
Самокорекция. Изследователи от DeepMind и Университета на Илинойс показаха, че LLM се справят лошо със самостоятелното коригиране на собствените си разсъждения без външно ръководство: производителността на GPT-4 спадаше при всички тествани benchmark-ове при опит за самокорекция[1].
Глава 3. Отговорен ИИ
Главата е посветена на ключовите измерения на отговорния ИИ: поверителност, прозрачност, безопасност и справедливост[1].
Инциденти в сферата на ИИ
Базата данни AI Incident Database е регистрирала 123 инцидента през 2023 година — ръст от 32,3% в сравнение с 2022 година. От 2013 година броят на инцидентите се е увеличил над двадесет пъти. Нарастването се дължи както на разширяването на приложението на ИИ, така и на повишената осведоменост за неговите етични рискове[14].
Стандартизация на benchmark-ите за отговорен ИИ
Анализът на петима водещи разработчици (OpenAI, Meta, Anthropic, Google, Mistral AI) разкри липсата на единен набор от benchmark-ове за оценка на отговорния ИИ. Въпреки че общите benchmark-ове за способности (MMLU, HellaSwag, ARC Challenge, HumanEval, GSM8K) се използват широко, benchmark-ите за отговорен ИИ (TruthfulQA, RealToxicityPrompts, ToxiGen, BOLD, BBQ) се прилагат разпокъсано: TruthfulQA използват не повече от трима от петима разработчици, а един разработчик въобще не съобщава за тестване по benchmark-ите за отговорен ИИ[1].
ИИ и избори
Изследвания от 2023 година показаха, че хората правилно идентифицират аудио deepfake-ове само в 73% от случаите. Очаква се, че с развитието на технологиите за генериране на звук точността на разпознаване ще намалява. Това създава рискове за манипулиране на политически кампании и дава на политиците възможност да отхвърлят компрометиращи аудиозаписи като фалшификати (т.нар. „дивидент на лжеца")[15].
Изследванията на LLM за политическа предубеденост разкриха корелация между отговорите на ChatGPT по подразбиране и позициите на Демократическата партия и отрицателна корелация с позициите на Републиканската партия[16].
Глава 4. Икономика
Главата изследва тенденциите в инвестициите, заетостта, корпоративното внедряване на ИИ и роботизацията[1].
Инвестиции
Общи тенденции. Съвкупните корпоративни инвестиции в ИИ намаляха до 189,2 млрд. долара през 2023 година (спад от ~20% спрямо 2022 година). Въпреки това за десетилетие обемът на инвестициите се е увеличил тринадесет пъти. Частните инвестиции намаляваха втора поредна година, макар спадът да беше по-слабо изразен, отколкото в периода 2021–2022 година[3].
Генеративен ИИ. Инвестициите в генеративен ИИ възлизат на 25,2 млрд. долара — почти деветкратен ръст в сравнение с 2022 година и тридесеткратен спрямо 2019 година. Генеративният ИИ осигури над четвърт от всички частни инвестиции в ИИ[3].
Регионално разпределение. САЩ с инвестиции от 67,2 млрд. долара изпревариха Китай (7,8 млрд.) 8,7 пъти и Великобритания (3,8 млрд.) 17,8 пъти. При това частните инвестиции в Китай намаляха с 44,2%, в ЕС и Великобритания — с 14,1%, докато в САЩ нараснаха с 22,1%[3].
Стартъпи. Броят на новите ИИ компании, получили финансиране, нарасна до 1 812 (ръст от 40,6%). В сферата на генеративния ИИ финансиране получиха 99 нови стартъпа (срещу 56 през 2022 година)[3].
Пазар на труда
Делът на свободните работни места, свързани с ИИ, в САЩ намаля от 2,0% през 2022 година до 1,6% през 2023 година. Подобна тенденция се наблюдава и в световен мащаб. Намалението се обяснява с орязване на наемането от страна на големи ИИ компании и намаляване на дела на техническите позиции[1].
Миграцията на ИИ специалисти от академията към индустрията продължава да се ускорява: през 2022 година 70,7% от новите притежатели на докторски степени в областта на ИИ се устроиха в промишлеността (срещу 40,9% през 2011 година), а само 20,0% — в академията (срещу 41,6%)[1].
Корпоративно внедряване
Според данни на McKinsey, 55% от организациите използват ИИ (включително генеративен ИИ) в поне едно бизнес подразделение — ръст от 50% през 2022 година и 20% през 2017 година. При това 42% от организациите съобщават за намаляване на разходите, а 59% — за ръст на приходите благодарение на ИИ[17].
Споменаванията на ИИ в отчетите за приходите на компаниите от Fortune 500 достигнаха 394 (почти 80% от всички компании) — забележим ръст спрямо 266 през 2022 година. Най-често споменаваната тема (19,7% от всички разговори) стана генеративният ИИ[1].
Роботика
През 2022 година бяха инсталирани 553 000 промишлени робота — ръст от 5,1% спрямо 2021 година и над три пъти повече от 2012 година. Китай доминира: от 2013 година, когато изпревари Япония, делът му нарасна от 20,8% до 52,4% от световните инсталации през 2022 година. Делът на колаборативните роботи се увеличи от 2,8% през 2017 година до 9,9% през 2022 година[18].
Глава 5. Наука и медицина
Впервые включената в доклада глава осветлява ролята на ИИ в научните открития и медицинските иновации[1].
Научни постижения от 2023 година
AlphaDev (DeepMind) — система с Reinforcement Learning, открила алгоритми за сортиране с по-малко инструкции от съществуващите човешки еталони. Някои от откритите алгоритми бяха включени в стандартната библиотека за сортиране на C++ (LLVM) — първата актуализация на тази част от библиотеката от над десет години[19].
GraphCast (DeepMind) — система за прогнозиране на времето на базата на графови Neural Network-и, осигуряваща 10-дневна прогноза за по-малко от минута с точност, надвишаваща водещата система за моделиране HRES (Европейски център за средносрочни прогнози за времето)[20].
GNoME (Google DeepMind) — модел, използващ графови мрежи за ускорено търсене на нови функционални материали, което е от критично значение за напредъка в роботиката и полупроводниковата индустрия[21].
Synbot — управляван от ИИ робот-химик за автономен синтез на органични молекули, постигнал добив на реакцията, сравним с референтните стойности или надвишаващ ги[22].
FlexiCubes (NVIDIA) — метод за оптимизация на 3D мрежи с използване на ИИ за подобряване на качеството на генерирането на 3D обекти в компютърната графика[23].
ИИ в медицината
Клинични знания. При benchmark-а MedQA (оценка на клиничните знания на ИИ) моделът GPT-4 Medprompt постигна точност от 90,2% — ръст от 22,6 п.п. в сравнение с най-добрия резултат от 2022 година. От създаването на benchmark-а през 2019 година производителността на ИИ при MedQA почти се утрои. Забележително е, че GPT-4 Medprompt използваше prompt инженеринг вместо fine-tuning, надминавайки специализирани медицински модели[24].
MediTron-70B — отворена медицинска LLM, показала 70,2% при MedQA — най-добрият резултат сред моделите с отворен код, макар и по-нисък от показателите на затворените модели GPT-4 Medprompt и Med-PaLM 2[25].
Медицински иновации. Сред значимите системи от 2023 година: SynthSR (подобряване на визуализацията на мозъчните структури от нискокачествени МРТ сканирания), ImmunoSEIRA (ИИ инфрачервени сензори за диагностика на невродегенеративни заболявания), EVEscape (прогнозиране на еволюцията на вирусите за предотвратяване на пандемии), AlphaMissense (класификация на мисенс мутации)[1].
Одобрения от FDA. През 2022 година FDA одобри 139 медицински устройства на базата на ИИ — ръст от 12,1% спрямо 2021 година. От 2012 година броят на такива одобрения се е увеличил над 45 пъти[26].
Глава 6. Образование
Главата разглежда тенденциите в образованието в областта на информатиката и ИИ[1].
Висше образование
Броят на завършилите бакалавърска степен по информатика в САЩ и Канада продължава да расте. Броят на магистрите остава относително стабилен, а броят на докторите скромно нараства. От 2018 година броят на магистрите и докторите по информатика леко е намалял[1].
Делът на международните студенти е намалял на всички нива на образование, особено забележимо — в магистратурата. В световен мащаб броят на англоезичните образователни програми, свързани с ИИ, се е утроил от 2017 година[1].
ChatGPT в образованието
Според данни от проучване на Walton Foundation, 88% от учителите и 79% от студентите смятат, че ChatGPT оказва положително влияние върху образователния процес. 76% от учителите и 65% от студентите считат, че е важно ChatGPT да се интегрира в обучението[27].
Глава 7. Политика и управление
Главата анализира законодателната и регулаторната активност в сферата на ИИ на глобално, американско и европейско ниво[1].
Глобални тенденции
Споменаванията на ИИ в законодателните процеси по целия свят достигнаха рекордно ниво. Наблюдава се преход от чисто насърчителни мерки към ограничително законодателство, което свидетелства за нарастващото внимание на регулаторите към потенциалните рискове от ИИ[1].
Тематиката на приетите закони през 2023 година значително се разшири, обхващайки въоръжените сили и националната сигурност, гражданските права, търговията, образованието, трудовите отношения, науката и технологиите[1].
Регулиране в САЩ
Броят на нормативните актове, свързани с ИИ, достигна 25 през 2023 година (ръст от 56,3% спрямо 2022 година). Най-разпространената тематика беше външната търговия и международните финанси. Делът на нормативните актове с висока и средна степен на релевантност към ИИ нарасна в сравнение с предходните години[1].
Знаково събитие от 2023 година беше Указът на президента Байдън за ИИ (Executive Order on AI), насочен, по-специално, към създаването на Национален ресурс за ИИ изследвания (National AI Research Resource) за осигуряване на равни възможности между индустрията и академията[28].
Регулиране в ЕС
В Европейския съюз се наблюдава аналогична тенденция към увеличаване на броя на нормативните актове, свързани с ИИ. Значимо постижение от 2023 година беше напредъкът на AI Act — първия всеобхватен закон за ИИ в света[1].
Глава 8. Многообразие
Главата изследва половото и етническото многообразие сред ИИ специалистите. Въпреки известен напредък, жените и представителите на малцинствата все още са значително недостатъчно представени в сферата на ИИ както в индустрията, така и в академията[1].
Глава 9. Обществено мнение
Главата анализира общественото възприемане на ИИ въз основа на международни проучвания и данни от социалните мрежи[1].
Международни проучвания
Осведоменост и обезпокоеност. Според данни на Ipsos, 66% от респондентите (ръст от 60%) смятат, че ИИ ще окаже съществено влияние върху живота им през следващите 3–5 години. При това 52% изразяват тревожност по отношение на продуктите на ИИ (ръст от 13 п.п. спрямо 2022 година)[4].
Икономически очаквания. Само 37% от респондентите смятат, че ИИ ще подобри работата им, 34% — че ще подобри икономиката, и 32% — че ще окаже положително влияние върху пазара на труда[4].
Демографски различия. Младите поколения са значително по-оптимистични: 59% от представителите на поколение Z смятат, че ИИ ще подобри развлеченията, срещу 40% от бейби бумерите. Хората с по-високи доходи и образование също са по-оптимистични[1].
Разпознаваемост на ChatGPT. Според международно проучване на Университета на Торонто, 63% от респондентите знаят за ChatGPT, като от тях около половината го използват поне веднъж седмично[29].
Данни от социалните мрежи
Анализът на Quid на над 7 млн. публикации в социалните мрежи за 2023 година разкри, че моделите GraphCast и Claude 2.1 са получили най-висок показател на положително настроение (net sentiment score). GPT-4 привлече най-голям дял внимание през първото тримесечие, докато към края на годината фокусът се измести към Gemini и Grok[1].
Значими ИИ модели от 2023 година
Докладът регистрира появата на редица ключови модели[1]:
| Модел | Разработчик | Тип | Дата | Значимост |
|---|---|---|---|---|
| GPT-4 | OpenAI | LLM, мултимодална | Март 2023 | Един от най-мощните LLM; лидер в HELM |
| PaLM 2 | LLM | Май 2023 | Разширени многоезични възможности | |
| Llama 2 | Meta | LLM (отворена) | Юли 2023 | Водещ отворен модел; версии 7B/13B/70B |
| Claude 2 / 2.1 | Anthropic | LLM | Юли / Ноември 2023 | Контекстен прозорец до 200K токена |
| Mistral 7B | Mistral AI | LLM (отворена) | Септември 2023 | Компактен високопроизводителен модел |
| DALL-E 3 | OpenAI | Генериране на изображения | Октомври 2023 | Подобрено качество и следване на prompt-ове |
| Gemini / Gemini Ultra | LLM, мултимодална | Декември 2023 | Първият LLM, надминал човека при MMLU | |
| Mixtral 8×7B | Mistral AI | LLM (MoE, отворена) | Декември 2023 | Архитектура Mixture-of-Experts |
| Midjourney v6 | Midjourney | Генериране на изображения | Декември 2023 | Подобрено качество и интуитивни prompt-ове |
| Whisper v3 | OpenAI | Разпознаване на реч | Ноември 2023 | Повишена точност, разширена езикова поддръжка |
Методология
Докладът използва данни от множество източници[1]:
- Публикации и патенти: OpenAlex, WIPO, USPTO, данни на Epoch AI.
- Benchmark-ове: Papers With Code, CRFM (HELM), специализирани класации.
- Инвестиции: Quid (Capital IQ, Crunchbase), данни за над 8 млн. компании.
- Пазар на труда: Lightcast, LinkedIn, Stack Overflow.
- Корпоративна активност: McKinsey & Company, Seeking Alpha (earnings calls).
- Роботика: International Federation of Robotics (IFR).
- Регулиране: Federal Register (САЩ), EUR-Lex (ЕС), Govini.
- Обществено мнение: Ipsos, Pew Research Center, University of Toronto (GPO-AI), Quid (социални медии).
- Образование: CRA Taulbee Survey, Informatics Europe, Studyportals, Code.org, Walton Foundation.
- Медицина: FDA, Papers With Code (MedQA).
Оценките на разходите за обучение на моделите бяха изготвени съвместно с Epoch AI въз основа на анализ на типа и количеството на хардуера, продължителността на обучението и облачните наемни цени[2].
Авторски колектив
Докладът е изготвен под ръководството на съдиректорите Рей Перо (Ray Perrault) и Джак Кларк (Jack Clark) с участието на широк кръг изследователи и организации партньори. AI Index е проект на Станфордския институт HAI (Human-Centered Artificial Intelligence)[1].
Препратки
- Stanford HAI — AI Index Report 2024 (пълен текст): https://aiindex.stanford.edu/report/
- Epoch AI — данни за разходите за обучение и изчислителните тенденции: https://epochai.org/
- Papers With Code — benchmark-ове и класации: https://paperswithcode.com/
- CRFM HELM — Holistic Evaluation of Language Models: https://crfm.stanford.edu/helm/
- AI Incident Database: https://incidentdatabase.ai/
- International Federation of Robotics: https://ifr.org/
- McKinsey Global Survey on AI: https://www.mckinsey.com/capabilities/quantumblack/our-insights/the-state-of-ai
Литература
- Stanford HAI (2024). Artificial Intelligence Index Report 2024. https://aiindex.stanford.edu/report/
- Epoch AI (2023). AI Training Cost Estimates and Compute Trends. https://epochai.org/
- Liang, P. et al. (2022). Holistic Evaluation of Language Models. https://arxiv.org/abs/2211.09110
- Hendrycks, D. et al. (2021). Measuring Massive Multitask Language Understanding. https://arxiv.org/abs/2009.03300
- Yue, X. et al. (2023). MMMU: A Massive Multi-discipline Multimodal Understanding and Reasoning Benchmark. https://arxiv.org/abs/2311.16502
- Rein, D. et al. (2023). GPQA: A Graduate-Level Google-Proof Q&A Benchmark. https://arxiv.org/abs/2311.12022
- Gandhi, K. et al. (2023). Understanding Social Reasoning in Language Models with Language Models. https://arxiv.org/abs/2306.15448
- Schaeffer, R. et al. (2023). Are Emergent Abilities of Large Language Models a Mirage? https://arxiv.org/abs/2304.15004
- Chen, L. et al. (2023). How Is ChatGPT's Behavior Changing over Time? https://arxiv.org/abs/2307.09009
- Wang, G. et al. (2023). Voyager: An Open-Ended Embodied Agent with Large Language Models. https://arxiv.org/abs/2305.16291
- Mankowitz, D. J. et al. (2023). Faster sorting algorithms discovered using deep reinforcement learning. Nature. https://doi.org/10.1038/s41586-023-06004-9
- Lam, R. et al. (2023). Learning skillful medium-range global weather forecasting. Science. https://doi.org/10.1126/science.adi2336
- Merchant, A. et al. (2023). Scaling deep learning for materials discovery. Nature. https://doi.org/10.1038/s41586-023-06735-9
- Ha, T. et al. (2023). AI-driven robotic chemist for autonomous synthesis of organic molecules. Science Advances. https://doi.org/10.1126/sciadv.adj0461
- Shen, T. et al. (2023). Flexible Isosurface Extraction for Gradient-Based Mesh Optimization. ACM Transactions on Graphics. https://doi.org/10.1145/3592430
- Nori, H. et al. (2023). Can Generalist Foundation Models Outcompete Special-Purpose Tuning? Case Study in Medicine. https://arxiv.org/abs/2311.16452
- Chen, Z. et al. (2023). MEDITRON-70B: Scaling Medical Pretraining for Large Language Models. https://arxiv.org/abs/2311.16079
- Mai, K. T. et al. (2023). Warning: Humans Cannot Reliably Detect Speech Deepfakes. https://arxiv.org/abs/2301.07829
- Motoki, F. et al. (2023). More Human than Human: Measuring ChatGPT Political Bias. https://doi.org/10.1007/s11127-023-01097-2
- McKinsey & Company (2023). The State of AI in 2023: Generative AI's Breakout Year. https://www.mckinsey.com/capabilities/quantumblack/our-insights/the-state-of-ai
- International Federation of Robotics (2023). World Robotics Report 2023. https://ifr.org/worldrobotics/
- The White House (2023). Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence. https://www.whitehouse.gov/briefing-room/presidential-actions/2023/10/30/executive-order-on-the-safe-secure-and-trustworthy-development-and-use-of-artificial-intelligence/
- Fleming, S. L. et al. (2023). MedAlign: A Clinician-Generated Dataset for Instruction Following With Electronic Medical Records. https://arxiv.org/abs/2308.14089
- Iglesias, J. E. et al. (2023). SynthSR: A public AI tool to turn heterogeneous clinical brain scans into high-resolution T1-weighted images for 3D morphometry. Science Advances. https://doi.org/10.1126/sciadv.add3607
- Cheng, J. et al. (2023). Accurate Proteome-Wide Missense Variant Effect Prediction With AlphaMissense. Science. https://doi.org/10.1126/science.adg7492
Бележки
- ↑ 1.00 1.01 1.02 1.03 1.04 1.05 1.06 1.07 1.08 1.09 1.10 1.11 1.12 1.13 1.14 1.15 1.16 1.17 1.18 1.19 1.20 1.21 1.22 1.23 1.24 1.25 1.26 1.27 1.28 1.29 1.30 1.31 1.32 1.33 1.34 1.35 1.36 1.37 1.38 1.39 1.40 1.41 1.42 1.43 1.44 1.45 1.46 Stanford HAI (2024). Artificial Intelligence Index Report 2024. https://aiindex.stanford.edu/report/
- ↑ 2.0 2.1 2.2 Epoch AI (2023). AI Training Cost Estimates. https://epochai.org/
- ↑ 3.0 3.1 3.2 3.3 3.4 Quid (2023). AI Investment Data. https://quid.com/
- ↑ 4.0 4.1 4.2 Ipsos (2023). Global Perceptions of AI Survey. https://www.ipsos.com/
- ↑ Pew Research Center (2023). Public Views on AI. https://www.pewresearch.org/
- ↑ Liang, P. et al. (2022). Holistic Evaluation of Language Models. https://arxiv.org/abs/2211.09110
- ↑ Hendrycks, D. et al. (2021). Measuring Massive Multitask Language Understanding. https://arxiv.org/abs/2009.03300
- ↑ Yue, X. et al. (2023). MMMU: A Massive Multi-discipline Multimodal Understanding and Reasoning Benchmark. https://arxiv.org/abs/2311.16502
- ↑ Rein, D. et al. (2023). GPQA: A Graduate-Level Google-Proof Q&A Benchmark. https://arxiv.org/abs/2311.12022
- ↑ Gandhi, K. et al. (2023). Understanding Social Reasoning in Language Models with Language Models. https://arxiv.org/abs/2306.15448
- ↑ Wang, G. et al. (2023). Voyager: An Open-Ended Embodied Agent with Large Language Models. https://arxiv.org/abs/2305.16291
- ↑ Schaeffer, R. et al. (2023). Are Emergent Abilities of Large Language Models a Mirage? https://arxiv.org/abs/2304.15004
- ↑ Chen, L. et al. (2023). How Is ChatGPT's Behavior Changing over Time? https://arxiv.org/abs/2307.09009
- ↑ AI Incident Database (2023). https://incidentdatabase.ai/
- ↑ Mai, K. T. et al. (2023). Warning: Humans Cannot Reliably Detect Speech Deepfakes. https://arxiv.org/abs/2301.07829
- ↑ Motoki, F. et al. (2023). More Human than Human: Measuring ChatGPT Political Bias. https://doi.org/10.1007/s11127-023-01097-2
- ↑ McKinsey & Company (2023). The State of AI in 2023: Generative AI's Breakout Year. https://www.mckinsey.com/capabilities/quantumblack/our-insights/the-state-of-ai
- ↑ International Federation of Robotics (2023). World Robotics Report 2023. https://ifr.org/worldrobotics/
- ↑ Mankowitz, D. J. et al. (2023). Faster sorting algorithms discovered using deep reinforcement learning. Nature. https://doi.org/10.1038/s41586-023-06004-9
- ↑ Lam, R. et al. (2023). Learning skillful medium-range global weather forecasting. Science. https://doi.org/10.1126/science.adi2336
- ↑ Merchant, A. et al. (2023). Scaling deep learning for materials discovery. Nature. https://doi.org/10.1038/s41586-023-06735-9
- ↑ Ha, T. et al. (2023). AI-driven robotic chemist for autonomous synthesis of organic molecules. Science Advances. https://doi.org/10.1126/sciadv.adj0461
- ↑ Shen, T. et al. (2023). Flexible Isosurface Extraction for Gradient-Based Mesh Optimization. ACM Transactions on Graphics. https://doi.org/10.1145/3592430
- ↑ Nori, H. et al. (2023). Can Generalist Foundation Models Outcompete Special-Purpose Tuning? Case Study in Medicine. https://arxiv.org/abs/2311.16452
- ↑ Chen, Z. et al. (2023). MEDITRON-70B: Scaling Medical Pretraining for Large Language Models. https://arxiv.org/abs/2311.16079
- ↑ U.S. Food and Drug Administration (2023). Artificial Intelligence and Machine Learning (AI/ML)-Enabled Medical Devices. https://www.fda.gov/medical-devices/software-medical-device-samd/artificial-intelligence-and-machine-learning-aiml-enabled-medical-devices
- ↑ Impact Research / Walton Family Foundation (2023). ChatGPT and Education Survey. https://www.waltonfamilyfoundation.org/
- ↑ The White House (2023). Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence. https://www.whitehouse.gov/briefing-room/presidential-actions/2023/10/30/executive-order-on-the-safe-secure-and-trustworthy-development-and-use-of-artificial-intelligence/
- ↑ Global Public Opinion on AI Survey, University of Toronto (2023). https://www.mediatechdemocracy.com/