Добавить новость

Госуслуга по приему документов для ведения плана подземных коммуникаций доступна на mos.ru

На Нагорной улице построят новую школу по программе комплексного развития территорий

Москвичи определят лучшее новогоднее оформление магазинов и кафе

Горожанам рассказали, какие звезды украшают павильоны ВДНХ

News in English

Новости сегодня

Новости от TheMoneytizer

‘AI’ Is Supercharging Our Broken Healthcare System’s Worst Tendencies

“AI” (or more accurately language learning models nowhere close to sentience or genuine awareness) has plenty of innovative potential. Unfortunately, most of the folks actually in charge of the technology’s deployment largely see it as a way to cut corners, attack labor, and double down on all of their very worst impulses.

Case in point: “AI’s” rushed deployment in journalism has been a keystone-cops-esque mess. The fail-upward brunchlord types in charge of most media companies were so excited to get to work undermining unionized labor and cutting corners that they immediately implemented the technology without making sure it actually works. The result: plagiarism, bullshit, a lower quality product, and chaos.

Not to be outdone, the very broken U.S. healthcare industry is similarly trying to layer half-baked AI systems on top of a very broken system. Except here, human lives are at stake.

For example UnitedHealthcare, the largest health insurance company in the US, has been using AI to determine whether elderly patients should be cut off from Medicare benefits. If you’ve ever navigated this system on behalf of an elderly loved one, you likely know what a preposterously heartless shitwhistle this whole system already is long before automation gets involved.

But a recent investigation by STAT showed the AI consistently made major errors and cut elderly folks off from needed care prematurely, with little recourse by patients or families:

“UnitedHealth Group has repeatedly said its algorithm, which predicts how long patients will need to stay in rehab, is merely a guidepost for their recoveries. But inside the company, managers delivered a much different message: that the algorithm was to be followed precisely so payment could be cut off by the date it predicted.”

How bad is the AI? A recent lawsuit filed in the US District Court for the District of Minnesota alleges that the AI in question was reversed by human review roughly 90 percent of the time:

“Though few patients appeal coverage denials generally, when UnitedHealth members appeal denials based on nH Predict estimates—through internal appeals processes or through the federal Administrative Law Judge proceedings—over 90 percent of the denials are reversed, the lawsuit claims. This makes it obvious that the algorithm is wrongly denying coverage, it argues.”

Of course, the way that the AI is making determinations isn’t particularly transparent. But what can be discerned is that the artificial intelligence at use here isn’t particularly intelligent:

“It’s unclear how nH Predict works exactly, but it reportedly estimates post-acute care by pulling information from a database containing medical cases from 6 million patients…But Lynch noted to Stat that the algorithm doesn’t account for many relevant factors in a patient’s health and recovery time, including comorbidities and things that occur during stays, like if they develop pneumonia while in the hospital or catch COVID-19 in a nursing home.”

Despite this obvious example of the AI making incorrect determinations, company employees were increasingly mandated to strictly adhere to its decisions. Even when users successfully appealed these AI-generated determinations and win, they’re greeted with follow up AI-dictated rejections just days later, starting the process all over again.

The company in question insists that the AI’s rulings are only used as a guide. But it seems pretty apparent that, as in most early applications of LLMs, the systems are primarily viewed by executives as a quick and easy way to cut costs and automate systems already rife with problems, frustrated consumers, and underpaid and overtaxed support employees.

There’s no real financial incentive to reform the very broken but profitable systems underpinning modern media, healthcare, or other industries. But there is plenty of financial incentive to use “AI” to speed up and automate these problematic systems. The only guard rails for now are competent government regulation (lol), or belated wrist slap penalties by class action lawyers.

In other words, expect to see a lot more stories exactly like this one in the decade to come.

Читайте на 123ru.net

Новости 24/7 DirectAdvert - доход для вашего сайта

Частные объявления в Вашем городе, в Вашем регионе и в России

Ru24.net — ежеминутные новости с ежедневным архивом. Только у нас — все главные новости дня без политической цензуры. "123 Новости" — абсолютно все точки зрения, трезвая аналитика, цивилизованные споры и обсуждения без взаимных обвинений и оскорблений. Помните, что не у всех точка зрения совпадает с Вашей. Уважайте мнение других, даже если Вы отстаиваете свой взгляд и свою позицию. Ru24.net — облегчённая версия старейшего обозревателя новостей 123ru.net. Мы не навязываем Вам своё видение, мы даём Вам срез событий дня без цензуры и без купюр. Новости, какие они есть —онлайн с поминутным архивом по всем городам и регионам России, Украины, Белоруссии и Абхазии. Ru24.net — живые новости в живом эфире! Быстрый поиск от Ru24.net — это не только возможность первым узнать, но и преимущество сообщить срочные новости мгновенно на любом языке мира и быть услышанным тут же. В любую минуту Вы можете добавить свою новость - здесь.

Новости от наших партнёров в Вашем городе


Переплату за тепло вернули жителям трех домов Воскресенска по предписаниям Госжилинспекции

Стипендиат Ил Дархана Розалия Тихонова: об аншлаге на премьере олонхо в Нюрбе и планах на будущее

В Москве на 32 км МКАД автомобиль перевернулся на крышу

По ту сторону звука: как живет на Ямале и добивается успехов девочка с нарушением слуха

Музыкальные новости

Через год награда нашла героя

В Екатеринбурге вне плана приземлился самолёт с хоккеистами команды ЦСКА

Мигрант ударил ножом школьника за "снежок"

Фестиваль короткометражных фильмов «Республика Кино» проходит в Якутске

Новости России

В общежитиях МГИКа ввели комендантский час

Неужели в Штатах до сих пор думают, что Путину «слабо»? Конечное решение по США уже принято

Переплату за тепло вернули жителям трех домов Воскресенска по предписаниям Госжилинспекции

Ученые назвали повышающий риск деменции фактор для людей старше 60 лет

Экология в России и мире

БАЙКАЛЬСКАЯ ТЕАТРАЛЬНАЯ ШКОЛА - Россия, Культура, Театр, Дети, 2023, Школа, Министр культуры Бурятии Соелма Дагаева, Министерство культуры Бурятии

Шапки и капоры женские на Wildberries (от 392 руб.) + три новые модели 2024

2023, Школа -министр культуры Бурятии Соелма Дагаева, министерство культуры Бурятии: БАЙКАЛЬСКАЯ ТЕАТРАЛЬНАЯ ШКОЛА - Россия, Культура, Театр, Дети

Самые крайние города России

Спорт в России и мире

Революция в теннисе: WTA и ATP могут остаться без главных турниров

Теннисисты Потапова и Шевченко стали молодоженами перед турниром в Петербурге

Хачанов победил Лайовича на турнире «Трофеи Северной Пальмиры»

Организаторы турниров Большого шлема могут выйти из ATP и WTA


Министерство культуры и туризма Московской области и каршеринг BelkaCar представили новые маршруты в рамках спецтарифа «Навигатор»

Ранее судимого москвича с фальшивыми документами задержали сотрудники Росгвардии

Больше дела, меньше шума: новые беспроводные мыши A4Tech Fstyler

Более 8 км трассы Глинка – Бердники в Смоленской области отремонтировали по БКД

Топ новостей на этот час


Костомаров рассказал, что помогло ему побороть нежелание жить после ампутаций

Сергей Еремин покатался в московских автобусах

Переплату за тепло вернули жителям трех домов Воскресенска по предписаниям Госжилинспекции

Группа «Ария» завершила тур «Гость из царства теней» шоу-концертом в Петербурге