Когда речь заходит о безопасности ИИ, я убежден, что основа должна быть в радикальной приверженности истине. Вот в чем дело — если мы продолжим кормить системы ИИ ложной информацией, мы строим на быстротекущем песке. Настоящая защита заключается не в ограничении возможностей ИИ; она в том, чтобы убедиться, что все, чему мы его учим, действительно отражает реальность. Это неприемлемый базовый уровень.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
11 Лайков
Награда
11
8
Репост
Поделиться
комментарий
0/400
MEVVictimAlliance
· 8ч назад
Говоря правильно, мусорные данные приводят к мусорному AI, и нет никакого короткого пути.
Посмотреть ОригиналОтветить0
SerNgmi
· 01-07 08:57
Нет никаких претензий, нужно улучшить качество данных, концепция "garbage in, garbage out" становится еще более актуальной для AI.
Посмотреть ОригиналОтветить0
ser_ngmi
· 01-07 08:57
nah честно говоря, именно правда — это ключ, кормить ИИ мусорными данными — это почти как самоубийство
Посмотреть ОригиналОтветить0
Ramen_Until_Rich
· 01-07 08:57
Совершенно верно, мусор за мусор, и даже самый умный ИИ не спасет от участи, когда его кормят фальшивыми данными.
Посмотреть ОригиналОтветить0
MagicBean
· 01-07 08:53
Совершенно верно, качество данных — это основа, концепция "garbage in, garbage out" ярко проявляется в области ИИ
Посмотреть ОригиналОтветить0
ThreeHornBlasts
· 01-07 08:49
Если в данные попадает мусор, не стоит ждать, что ИИ выдаст истину.
Посмотреть ОригиналОтветить0
DefiOldTrickster
· 01-07 08:40
Ха, звучит красиво, но кто же определит настоящую "истину"? Сколько я видел белых бумаг DeFi-проектов в 2017 году с красивыми обещаниями, а в итоге? Оглядываясь назад, это была сплошная дезинформация. Кормить AI мусорными данными — это то же самое, что мой старый опыт с арбитражем перед ликвидацией — если источник поражен, никакая умная хеджинг-стратегия не спасет. Но не будьте наивными, попытка ограничить AI вообще ничего не решает, главное — качество данных на входе. По-моему, лучше добавить AI встроенный механизм проверки на блокчейне, позволить ему самому запускать верификацию данных — тогда годовоя доходность будет гарантирована.
Посмотреть ОригиналОтветить0
MidnightMEVeater
· 01-07 08:36
Доброе утро, ночные существа, в 3 часа ночи пришла в голову одна мысль — подсовывать фейковые данные AI — это как создавать ловушки ликвидности в тёмных пулах, на первый взгляд кажется безобидным, а на самом деле вы копаете яму для своего алгоритма. Защититься невозможно.
Когда речь заходит о безопасности ИИ, я убежден, что основа должна быть в радикальной приверженности истине. Вот в чем дело — если мы продолжим кормить системы ИИ ложной информацией, мы строим на быстротекущем песке. Настоящая защита заключается не в ограничении возможностей ИИ; она в том, чтобы убедиться, что все, чему мы его учим, действительно отражает реальность. Это неприемлемый базовый уровень.