Один из моих любимых текстов – пост про нейроморфные вычисления. Это невероятная совершенно область про то, как бы нам всю красоту и мощь собственных мозгов описать математически и сделать красивые и мощные компьютеры.
Наталия Поварова
с 2024
Думаем об ИИ и людях
38 подписчиков
13 подписок
Попалась мне ещё одна статья про то, как разные сложные концепции представлены внутри больших языковых моделей. Там интересный подход, хотя и не без шероховатостей, поэтому давайте почитаем.
Раньше если б вы меня спросили: «Ты кто?» – я бы ответила что-то вроде: «Специалист по анализу данных,» – или: «Разработчик программного обеспечения.» Сейчас я так себя не могу назвать.
То есть, формально, в моей жизни ничего не поменялось: я всё ещё работаю в той же области, и даже в той же компании, но я уже некоторое время не пишу руками к…
У меня не получается написать складное вступление к этому посту, поэтому вот краткая выжимка моих мыслей:
- Я нашла очень интересную статью об ответственности пользователей ИИ.
- Это важная дискуссия, потому что мы много говорим об ответственности компаний и законодательном регулировании, а об ответственности каждого из нас – не так много.
- Не…
Когда языковые модели оценивают на безопасность и надёжность, есть проблема: большинство наборов данных для оценки составлены на английском языке. На других тоже есть, но не так много: недостаточно, чтобы всё как следует проверить.
Авторы статьи «One ruler to measure them all: Benchmarking multilingual long-context language models» («Одна лин…
Интуитивно кажется, что да: мы тренируем ИИ не отвечать на нехорошие запросы нехороших людей – ИИ становится безопаснее. Но на деле всё несколько более сложно и запутанно. Давайте об этом поговорим.
Если конкретнее, мы будем говорить не об ИИ вообще, а о больших языковых моделях. Ещё конкретнее, мы разберём статью «LLMs Encode Harmfulness and…
Цепочки рассуждений – полезный инструмент в работе с языковыми моделями. Они позволяют сделать две вещи:
- разбить сложную задачу на более простые компоненты и получить более качественный результат;
- проследить за тем, как модель работает над задачей, и выловить ошибки до того, как они повлияют на результат.
У себя на LinkedIn я выложила пост про то, что большинство современных работ, которые исследуют взаимодействие между ИИ-агентами, пока не слишком надёжные. Я переведу этот текст на русский язык попозже, но, если коротко, вот в чём дело:
ИИ творится по образу и подобию человеческому.
Во всяком случае, такой был план. Как оно там дальше развивалось, вопрос отдельный, однако исследования мозга человека (и других животных) и развитие ИИ связаны очень тесно. Сегодня посмотрим на эту взаимосвязь, опираясь на хорошую статью 2017 года, которая называется «Neuroscience-Inspired Artif…
Меня не отпускает мысль о том, что серия постов от разных людей в духе: «Всё пропало, потому что ИИ (вставьте новость),» – связана с весенним обострением. Сейчас как раз сезон. То есть, таких постов всегда много, но сейчас прям всплеск, как мне кажется.
Мне тут подкинули идею: поисследовать, как в Google DeepMind использовали ИИ в играх и что из этого получилось. Потому что игры – это не только развлечение, но и суперская площадка для экспериментов.
Поехали.
В соцсетях уже энное количество времени обсуждают проект, который сначала назывался Clawdbot, потом Moltbot, а теперь OpenClaw. Причём, к сожалению, я вижу очень много, скажем, странных сообщений. Давайте постараемся разобраться в этом феномене с холодной головой и решить, что это: новая эра в ИИ, предвестник конца или ни то ни другое, как обычно.