YT YouTube2Text

YouTube2Text → Transcripts → O ERRO DE SOFTWARE MAIS LETAL DA HISTÓRIA | THERAC 25

O ERRO DE SOFTWARE MAIS LETAL DA HISTÓRIA | THERAC 25 — Transcript

by Renato Augusto · 5,466 words · 864 segments · language en · Watch on YouTube

Open in transcriber Summarize with AI Download SRT/VTT

Full transcript

0:00Tudo começou na manhã de 3 de junho de
0:021985 no Centro Oncológico Regional de
0:05Kstone, no estado da Geórgia, onde uma
0:07paciente chamada Ctherinear Brw, de 61
0:10anos, deu entrada no hospital pela 11ª
0:12vez para concluir a sua etapa final de
0:14tratamento contra o câncer. Ctherine já
0:16havia passado por uma remoção
0:17bem-sucedida de um nódulo na mama
0:19esquerda alguns meses antes. E, ao que
0:21tudo indicava, o câncer já estava sob
0:23controle e restava apenas uma última
0:24sessão de radioterapia para evitar
0:26qualquer possibilidade dele voltar. O
0:28equipamento que seria utilizado para
0:30administrar a dose de radiação em
0:31Cathering seria um acelerador linear
0:34recém- adquirido pelo hospital chamado
0:36de Terac 25. Essa máquina era
0:38considerada a máquina mais avançada do
0:39mundo, sendo totalmente controlada por
0:41software e capaz de administrar doses
0:43precisas de radiação com uma taxa de
0:45confiabilidade de 100%. Só que o que
0:48ninguém sabia é que essa taxa de 100%
0:50estava prestes a ser reduzida a zero nos
0:52minutos seguintes. Isso porque no
0:54momento em que o operador apertou o
0:55botão para iniciar a sessão de
0:57radioterapia, Cathertherine começou a
0:59gritar desesperada dentro da máquina,
1:01dizendo que havia sido queimada e que
1:03alguma coisa invisível atravessou o
1:05peito dela. O operador então tentou
1:08acalmar Katherine dizendo que isso era
1:09impossível de acontecer e chegou a
1:11solicitar até alguns exames para mostrar
1:13para ela que estava tudo bem, que aquilo
1:14provavelmente era algo psicológico
1:16naquela manhã. Então, Ktherine passou
1:18por alguns exames no hospital e a única
1:20coisa que foi percebida é que a sua pele
1:22estava muito quente, mas nenhum problema
1:24foi encontrado de fato e ela foi
1:26liberada para ir paraa casa logo em
1:27seguida. Duas semanas depois, Ktherine
1:29dá entrada novamente no hospital, só que
1:31dessa vez pela emergência e agora com
1:33manchas extremamente vermelhas pelo
1:35corpo e sinais claros de alguém que
1:37estava morrendo por dentro. Novos exames
1:39foram realizados e foi constatado que
1:41ela recebeu uma dose de radiação de
1:43aproximadamente 20.000, 1000 R, quando a
1:45dose que ela deveria ter recebido era de
1:47apenas R0 R. Só para você ter uma noção,
1:50o limite máximo que um ser humano pode
1:52receber é de até 200 R. A dose que
1:54Catherine havia recebido era próxima da
1:56dose que os trabalhadores na usina
1:58nuclear de Chernobyl receberam no dia do
2:00acidente. Os médicos de plantão naquele
2:02dia ficaram horrorizados com a situação
2:04de Ctherine e entraram em contato
2:06imediatamente com a SL, que era
2:07fabricante do Terc 25, relatando o caso.
2:10Porém, a resposta da SL foi de que
2:12aquilo era impossível de acontecer e que
2:14eles só ligassem novamente quando eles
2:16estivessem provas do que eles estavam
2:18falando. As semanas então foram-se
2:20passando e Katherine piorava cada vez
2:22mais. Sua pele começou a necrosar e
2:24apodrecer. Um buraco se formou entre o
2:27peito e as costas dela, exatamente no
2:29local onde havia sido administrada a
2:30dose de radiação. E mesmo com tentativas
2:33médicas de enxertar a pele saudável no
2:35local da ferida, o problema se agravava
2:37cada vez mais. A radiação claramente
2:39estava matando Ctherine aos poucos e
2:41ninguém sabia exatamente o que havia
2:43acontecido com ela. Só que o pior dessa
2:45história toda é que ela tá apenas
2:47começando. E esse caso de Ctherine não
2:49era um caso isolado. Esse foi apenas o
2:51primeiro dos muitos outros casos que
2:54ficaram conhecidos como o erro de
2:55software mais letal e macabro de todos
2:58os tempos. Seja bem-vindo à história não
3:01contada do Terc.
3:14No final do século XIX, um físico alemão
3:16chamado Wilh percebeu algo estranho
3:18enquanto fazia experimentos com tubos de
3:20raios catódicos. Ele notou que um tipo
3:22de energia invisível era capaz de
3:24atravessar objetos sólidos e
3:26impressionar chapas fotográficas. Aquilo
3:28não era luz, não era eletricidade, não
3:30era nada conhecido até então. E ele
3:32simplesmente chamou aquilo de raio X.
3:34Pouco tempo depois na França, Marik e
3:37Pierre Curri aprofundaram essas
3:38descobertas ao estudar materiais
3:40naturalmente radioativos, como o rádio.
3:42Eles perceberam que certos elementos
3:44emitiam energia de forma contínua sem
3:46precisar de combustão nem movimento
3:48mecânico. Era simplesmente energia sendo
3:51liberada a partir do próprio átomo. No
3:53começo, ninguém entendia direito o que
3:54aquilo significava ou como que
3:56funcionava, mas uma coisa ficou evidente
3:58muito rápido. radiação tinha efeito
4:00direto sobre o corpo humano e tecidos
4:02que eram expostos a ela em excesso
4:04adoeciam, queimavam e morriam. Só que ao
4:07mesmo tempo os médicos começaram a notar
4:09algo curioso. Os tumores também
4:12encolhiam. Foi aí que surgiu uma das
4:13ideias mais importantes da história da
4:16medicina. Se a radiação era capaz de
4:18destruir células vivas, talvez ela
4:20também pudesse ser utilizada de forma
4:22controlada para destruir células
4:24cancerígenas. Então, em novembro de
4:261899,
4:28depois de muita tentativa e erro, surge
4:30o primeiro caso de uma paciente de 49
4:33anos que foi curada de um câncer no
4:34nariz através do tratamento com a
4:36radiação que foi realizada pelos médicos
4:38Story Stenbeck e Tog Huegren. Essa
4:40paciente foi a primeira pessoa da
4:42história a ser curada de um câncer
4:43através da radiação e mesmo com todo o
4:45procedimento sendo ainda muito
4:47rudimentar e artesanal e com risco
4:49enorme tanto pro paciente quanto pro
4:51médico por conta da falta de controle
4:53sobre a radiação, ainda assim ela foi
4:55curada. Após o caso dessa paciente, a
4:57radioterapia então começou a ser
4:58estudada no mundo inteiro e ao longo das
5:00décadas foi deixando de ser mera
5:02tentativa e erro para se tornar ciência
5:04de verdade, onde novas doses seguras de
5:06radiação começaram a surgir, novos
5:08limites começaram a ser definidos e o
5:09que antes era simplesmente expor alguém
5:11a radiação aleatória passou a ser
5:13administrar uma quantidade precisa de
5:16energia de acordo com o problema. E não
5:18demorou muito paraa engenharia também
5:19entrar nessa equação. Então, em 1950,
5:22surgiu a primeira máquina avançada de
5:24radioterapia, conhecida como acelerador
5:27linear. Essa máquina funciona
5:28basicamente acelerando partículas,
5:30principalmente elétrons a velocidades
5:32extremamente altas, próximas à
5:34velocidade da luz. E esses elétrons,
5:36eles podem ser usados de duas formas
5:38diferentes. Quando o feixe de elétrons é
5:40direcionado diretamente no corpo do
5:42paciente, ele deposita sua energia logo
5:44nas camadas iniciais do tecido, o que é
5:46muito bom para tratar tumores próximos
5:48da pele. Agora, quando esses elétrons
5:50são direcionados contra um alvo
5:52metálico, como uma placa de tugêno, por
5:54exemplo, eles desaceleram bruscamente. E
5:56nesse processo de desaceleração, eles
5:58geram o que chamamos de raio X, que são
6:01fótons de alta energia. E diferente dos
6:03elétrons, esses fótons penetram muito
6:05mais fundo no corpo humano, permitindo
6:07atingir tumores localizados em regiões
6:09muito mais profundas. Em outras
6:11palavras, elétrons são usados para
6:12tratamentos superficiais e fótons são
6:14usados para tratamentos profundos. dois
6:17tipos de radiação, dois tipos de
6:18aplicação e dois riscos diferentes,
6:20todos eles precisando de controle
6:22absoluto. Foi nesse cenário então que em
6:241970 a Atomic Energy of Canada Limited,
6:28conhecida como a SL, que era uma empresa
6:30estatal canadense profundamente ligada
6:32ao setor nuclear, resolveu entrar no
6:34campo da medicina com o seguinte
6:35argumento: se nós já dominamos os
6:37reatores nucleares, física de partículas
6:40e sistemas complexos de alta energia,
6:42também temos competência técnica
6:44suficiente para construir equipamentos
6:46seguros para hospitais. Então assim,
6:48surgiu o primeiro acelerador linear da
6:51SL, conhecido como Terax 6. uma máquina
6:53projetada apenas para tratamentos com
6:55feixes de elétrons e que tinha como
6:57principal filosofia segurança acima de
6:59tudo. O Tercia múltiplas camadas de
7:01proteção baseada em hardware, barreiras
7:03físicas, intertravamentos mecânicos e
7:05sensores independentes. Se alguma
7:07configuração perigosa fosse tentada, a
7:09própria máquina simplesmente se recusava
7:12a operar. E foi um grande sucesso.
7:14Hospitais adotaram teraxis em larga
7:15escala. pacientes foram tratados,
7:17resultados positivos se acumulavam e a
7:19máquina se mostrou extremamente
7:21confiável ao longo do tempo. Alguns anos
7:23depois, em 1978, veio o Terc 20, uma
7:26versão mais recente do Terc e que ainda
7:29mantinha sua segurança baseada em
7:30hardware, só que agora ela trabalhava
7:32com um conceito chamado de passagem
7:34dupla, que basicamente permitia ao Terc
7:3620 agora trabalhar não só com o modo de
7:38elétrons, mas também com o modo de raio
7:40X, gerando fótons. Isso permitia com que
7:42o Terc 20 tratasse uma variedade muito
7:45maior de tumores. E mais uma vez assim
7:47que foi lançado no mercado, foi uma
7:49grande explosão e funcionou por muitos e
7:51muitos anos sem nenhum incidente com a
7:53máquina ou nenhuma reclamação negativa.
7:56Só que quando algo funciona bem por
7:58muito e muito tempo, a primeira pergunta
8:00que surge quase que de maneira natural
8:02é: como tornar isso mais rápido, mais
8:04eficiente, mais moderno e,
8:06principalmente mais barato de ser
8:09produzido? Foi nesse ponto da história
8:11que em 29 de julho de 1983 surgiu TERAC
8:1625, o mais novo acelerador linear da SL
8:19que vem agora com a proposta totalmente
8:21revolucionária pro mercado, segurança
8:24baseada em software, ou seja, diferente
8:26dos seus antecessores que possuíam
8:28segurança baseada em hardware, sensores
8:31físicos e camadas mecânicas, a SL
8:33decidiu jogar toda a segurança e todo o
8:35controle do Terc e exclusivamente em
8:38código. Então agora era o computador que
8:41assumiria o papel de garantir que o
8:43equipamento nunca entrasse num estado
8:44perigoso e se algo desse errado, o
8:47próprio programa impediria a operação. E
8:49mais uma vez, assim que foi lançado no
8:51mercado, Terco.
8:54Os hospitais começaram a adotar sua mais
8:56nova máquina de radioterapia e nos
8:58primeiros meses de operação, mais de
9:0020.000 pacientes foram tratados com o
9:02Terac 25, sem nenhum tipo de incidente
9:05ou falha com a máquina. Mas diante dessa
9:07euforia toda tinha algo que ninguém
9:10talvez tivesse parado para pensar. O
9:12sistema que antes se recusava
9:14fisicamente a operar em condições
9:16perigosas agora dependia única e
9:18exclusivamente de decisões tomadas
9:20apenas por linhas de código. E se esse
9:23código, porventura falhasse, não haviam
9:25mais barreiras mecânicas e físicas para
9:28impedir que a máquina se transformasse
9:29num canhão de radiação. E é exatamente
9:32isso que nos leva pro primeiro caso
9:34registrado de uma overdose de radiação,
9:37que foi o caso da manicure Katherine de
9:3961 anos em Kenstone, na Geórgia, que
9:41perdeu sua vida por conta desse
9:43acidente. Só que o pior de tudo isso é
9:46que Katherine não estava sozinha nessa.
9:48Esse pesadelo chamado Ter 25 tinha
9:51acabado de começar
10:00no dia 26 de julho de 1985, exatas s
10:04semanas após o caso de Catherine, uma
10:06paciente chamada Francis Rio, de 40
10:08anos, da entrada no Hospital Regional do
10:10Câncer em Ontário, no Canadá, para fazer
10:12a sua 24ª sessão de radioterapia como
10:14parte do tratamento de um câncer no colo
10:16do útero. Frances, então é posicionada
10:18sobre o Terc 25 e no momento que a
10:20sessão é iniciada, a máquina desliga
10:22abruptamente uma mensagem de erro
10:24Malfunction 54 aparece no console do
10:26operador acompanhada de uma mensagem que
10:28dizia no dose, indicando que alguma
10:31coisa estava errada, mas que nenhuma
10:33dose de radiação havia sido entregue
10:35ainda. Como esse erro não existia na
10:37documentação nem no manual do Terc, o
10:39protocolo recomendado pela própria SL
10:41era apertar a tecla P para prosseguir
10:44com a operação. O operador, então,
10:45acreditando que nenhuma dose de radiação
10:47havia sido administrada em Frances,
10:49aperta a tecla P quatro vezes
10:51consecutivas na tentativa de iniciar o
10:53processo. Naquele momento, Francis
10:55começa a gritar desesperada de dor,
10:57descrevendo uma sensação de choque
10:58profundo, como se algo tivesse
11:00atravessado o seu quadril. Nas horas
11:02seguintes, a região irradiada começa a
11:04inchar, escurecer e se deteriorar de
11:06forma acelerada e com sinais claros de
11:08uma overdose de radiação levando à
11:10hospitalização imediata de Frances. O
11:12hospital então notifica a SL sobre o
11:15caso, mas a fabricante se recusa a
11:17reconhecer qualquer defeito comterac 25
11:19e depois de muita luta envia um técnico
11:21para examinar o equipamento. Porém, o
11:23técnico não consegue reproduzir o
11:25problema, mas sugere uma substituição em
11:27uma peça chamada Micrositch, que era
11:29responsável por girar o disco do Terc 25
11:32para alternar entre os modos de fotótons
11:34e elétrons da máquina. A SL então
11:36realiza a correção física nas máquinas
11:38em diversos hospitais, porém ela omite a
11:40informação de que a paciente havia sido
11:42gravemente ferida no hospital em
11:44Ontário. Poucos meses depois, Frances
11:46vem a óbito em decorrência das
11:47complicações e durante a autópsia foi
11:49constatado que o dano causado em seu
11:51quadril era tão grave que caso ela
11:52tivesse sobrevivido, ela teria que
11:54passar por uma substituição completa do
11:56próprio quadril por conta da overdose de
11:58radiação que ela recebeu de
12:00aproximadamente 17.000 r. Após esse
12:03evento, Terque continua em operação
12:05normalmente e ninguém é notificado ou
12:08responsabilizado pelo caso de Frances.
12:17No dia 3 de dezembro de 1985, dessa vez
12:20no Hospital Memorial do Vale do Yakima
12:22em Washington, uma mulher não
12:23identificada que estava em tratamento de
12:25um câncer desenvolve uma vermelhidão
12:27excessiva em forma de listras paralelas
12:29por todo o seu corpo uma semana após ter
12:32passado por uma sessão com o Terc 25. A
12:34equipe médica inicialmente descarta a
12:36possibilidade de uma overdose de
12:38radiação porque a máquina havia acabado
12:40de ser supostamente consertada pela SL
12:42com a troca do micrositch e decide então
12:44continuar tratando a paciente com a
12:46máquina até janeiro de 1986. Só que
12:49conforme as semanas foram passando, a
12:51pele da paciente começou a necrosar e
12:53ela desenvolveu uma úlcera crônica e
12:55também sofreu uma paralisia da perna
12:57direita. Dois meses após esse ocorrido,
12:59a paciente veio a falecer em decorrência
13:00da overdose de radiação que,
13:02posteriormente, nas investigações, foi
13:04constatado que chegava próximo dos
13:0614.000. O hospital agora com fortes
13:09evidências de uma overdose de radiação
13:11entra em contato com a SL que mais uma
13:14vez responde que uma overdose de
13:16radiação era impossível e que a
13:18instituição desconhecia qualquer outro
13:20incidente similar, o que não era
13:22verdade, pois a SL já tinha sido
13:24notificada sobre as mortes anteriores e
13:26também já estava sendo processada
13:28judicialmente pela família de Katherine,
13:30no estado da Geórgia. Desconfiados então
13:32da resposta da SL, os próprios médicos
13:35do Vale do Iaquima decidiram começar a
13:37trocar informações com médicos de outros
13:39hospitais que também tinham o Terac 25
13:41em operação. E eles decidem não só
13:43trocar essas informações, mas também
13:45formar um grupo para começar a mandar
13:47cartas paraa SL, cobrando soluções mais
13:49eficientes e ameaçando também uma
13:51denúncia formal no FDA, que é a Agência
13:54Federal Reguladora dos Estados Unidos e
13:56responsável por proteger a saúde
13:58pública. A SL, então, para tentar conter
14:00essa situação, lança alguns pets de
14:03atualização no software do Terc 25 e
14:05garante que a máquina agora é 9 milhões
14:08de vezes mais segura e que ninguém
14:10precisava mais se preocupar com qualquer
14:12possibilidade de acidente. Os hospitais
14:14então acreditam na SL e retomam suas
14:17operações normalmente e o tercando
14:21suas sessões sem nenhum tipo de
14:23interrupção.
14:28No dia 21 de março de 1986, agora no
14:31East Texas Cancer Center, localizado em
14:33Tyler, um homem chamado Von Ray Cox, de
14:3633 anos, dá entrada no hospital paraa
14:38sua nona sessão de radioterapia como
14:40parte do acompanhamento da remoção de um
14:42tumor nas suas costas. A prescrição
14:44daquele dia era muito clara, um feixe de
14:46elétrons aplicado à região esquerda da
14:48coluna para administrar uma dose de
14:50180º.
14:51No momento da configuração da máquina, a
14:53operadora, que já era bastante
14:55experiente, acabou cometendo um erro de
14:57digitação e apertou a letra X de raio X,
14:59ao invés da letra E de elétrons. Só que
15:02como ela já era bastante experiente com
15:04a máquina, ao notar o erro, ela usou a
15:06tecla seta para cima para corrigir o
15:08campo e em seguida apertou o enter
15:09várias vezes até chegar no final da tela
15:11e concluir a configuração. E tudo isso
15:14em menos de 8 segundos. Grava essa
15:16informação porque ela vai ser
15:17importante. Com tudo configurado, a
15:19operadora então inicia a sessão, só que
15:21nesse momento a máquina simplesmente
15:23dispara e interrompe a operação com a
15:25mensagem de erro na tela Malfunction 54.
15:29Segundo as recomendações da fabricante,
15:30a operadora então aperta a tecla P para
15:33prosseguir novamente. Só que no momento
15:34em que a operador aperta para
15:36prosseguir, o paciente que estava dentro
15:37da sala blindada é atingido por uma dose
15:40massiva de radiação que posteriormente
15:42ele descreveu como choque elétrico e
15:44como se alguém tivesse despejado café
15:46fervendo nas suas costas. Para piorar,
15:48nesse dia o monitor de vídeo da sala
15:50estava desconectado e o intercomunicador
15:52de áudio estava quebrado. A operadora
15:54não ouviu os gritos do paciente. Ele só
15:56foi retirado de dentro da sala quando
15:57começou a esmurrar a porta de chumbo,
15:59cambaleando e gritando que o corpo dele
16:02estava queimando por dentro. O paciente
16:04foi examinado por um médico que observou
16:05a vermelhidão intensa no local, mas não
16:08encontrou nenhum problema imediato. O
16:10físico do hospital Free Hager desconfia
16:12da situação e entra em contato com a SL
16:15informando o caso. Só que mais uma vez a
16:17SL se recusa em reconhecer qualquer
16:19possibilidade de overdose por radiação e
16:22disse que isso era um problema elétrico
16:24e de aterramento do próprio hospital.
16:26Convencidos pela SL sem saber dos outros
16:29acidentes em outros hospitais, a direção
16:31do hospital, depois de fazer uma
16:32inspeção na sua rede elétrica, manda
16:34religar novamente o Terac 25 e diversos
16:37pacientes foram atendidos pelo resto do
16:39dia normalmente. Duas semanas depois,
16:42Vonny Rayx retorna ao hospital pela
16:44emergência, tendo perdido o movimento do
16:46braço esquerdo e com paralisia nas
16:47pernas, nas cordas vocais e no
16:49diafragma. Ele foi hospitalizado às
16:51pressas, mas faleceu 5 meses após o
16:53acidente devido às complicações causadas
16:55pela radiação massiva que ele recebeu,
16:57que posteriormente nas investigações foi
16:59estimada em aproximadamente 25.000
17:02Rades. Nesse momento, Freeze Hager liga
17:05novamente pra SL, que mesmo ainda muito
17:07relotante em reconhecer qualquer defeito
17:09com Terc 25, acaba enviando os técnicos
17:12Range Hold e Dave Not para investigar o
17:14caso. Eles viajam então pro Texas e
17:16realizam os testes no Terc 25, mas
17:18acabam não encontrando nada errado com a
17:20máquina que permanece em operação mesmo
17:23assim.
17:28No dia 11 de abril de 1986, apenas três
17:31semanas após a tragédia com Vony Ray
17:33Cox, um motorista de ônibus chamado
17:35Verdon Kid, de 66 anos, dá entrada no
17:38mesmo hospital em Tyler, no Texas, para
17:40dar continuidade ao tratamento de um
17:41câncer de pele localizado do lado
17:43direito do seu rosto. Por coincidência,
17:45a operadora que controlava o Terc 25
17:47nesse dia era a mesma que havia
17:49participado da tragédia com Von Ray Cox.
17:51E exatamente como no caso anterior, na
17:54hora dela configurar a máquina, ela
17:55acabou cometendo o mesmo erro de
17:57digitação novamente, apertando X para
17:59modo de raio X, quando na verdade ela
18:01deveria ter apertado o E para modo de
18:03elétrons. Ela percebe o erro mais uma
18:05vez e repete o mesmo procedimento de
18:07trocar pra letra E de elétrons e aperta
18:09enter várias vezes para confirmar todas
18:12as outras configurações. Tudo isso mais
18:14uma vez em menos de 8 segundos. Agora
18:17com a máquina configurada, ela inicia
18:19então a operação e assim que o
18:21procedimento começa, o Tercabtamente
18:26e mais uma vez a mensagem de erro
18:28malfunction 54 aparece na tela. Só que
18:31diferente do caso de Von Ray Coxy, dessa
18:33vez o intercomunicador funcionava e a
18:35operadora ouviu Verdon Kid gritando por
18:38socorro e dizendo que havia fogo em seu
18:40rosto. Ele descreveu aos médicos que
18:42algo atingiu violentamente e que ele viu
18:44um flash de luz e ouviu o som de um
18:46chiado como se fosse ovos fritando. Mais
18:48tarde descobriu-se que esse som, na
18:50verdade, era o ruído físico das câmaras
18:52de ionização do Terc 25, sendo
18:55completamente saturadas pela radiação
18:57massiva que foi disparada. A saúde de
18:59Verdon Kid nos minutos seguintes começa
19:01a colapsar e ele entra em coma imediato,
19:04tendo febre constante de 40º. E mesmo
19:06hospitalizado às pressas, Verdon não
19:08resiste e acaba falecendo no dia 1o de
19:10maio de 1986, três semanas após o
19:14acidente. Essa foi a morte mais rápida
19:16de todos os casos envolvendo o terac 25.
19:18E na autópsia foi constatado que a causa
19:20da morte foi uma lesão aguda por
19:22radiação de altíssima dose que havia
19:24destruído o lobo temporal direito do seu
19:26cérebro e o seu tronco encefálico. A
19:29morte de Verdon Kid foi a gota d'água e
19:31diversos hospitais que já trocavam
19:32informações entre si ficaram sabendo do
19:35caso e agora se sentindo enganados pelas
19:37garantias anteriores da SL de que
19:39overdoses eram impossíveis. Eles
19:41começaram a formalizar denúncias para
19:43enviar o FDA, relatando as informações
19:45que a SL supostamente tentava manter em
19:48sigilo e também cobrar explicações sobre
19:50o erro Malfunction 54 e a relação direta
19:53que ele tinha com a morte de diversos
19:55pacientes. Paralelo a isso, o físico
19:57Freeze Haer do Hospital em Tyler, no
19:59Texas, onde Verdon Kid morreu, fica
20:01inconformado com a situação e se recusa
20:03a aceitar as desculpas esfarrapadas da
20:05SL e decide ele mesmo investigar o caso
20:08e tentar reproduzir o Malfunction 54
20:10para descobrir qual era a origem desse
20:12erro. Heer então passa dois dias
20:14inteiros dentro do hospital sem dormir,
20:16tentando reproduzir o erro. E depois de
20:18muita tentativa e um esforço
20:19considerável, ele finalmente consegue
20:21reproduzir o Malfunction 54 e descobre
20:24que a velocidade de digitação do
20:26operador era onde estava o problema.
20:28Basicamente o que acontecia era que o
20:30Terc era totalmente controlado via
20:32software e tudo rodava dentro de um
20:34PDP11 que era um mini computador
20:36industrial que controlava a máquina.
20:38Dentro desse PDP11, haviam várias
20:40rotinas rodando ao mesmo tempo e cada
20:42uma delas controlava uma parte do
20:44ecossistema do Terc 25. Então tinha a
20:46rotina que controlava as informações que
20:48eram digitadas no teclado, tinha a
20:49rotina que controlava o disco que
20:51alternava entre os modos de fótons e
20:52elétrons e a potência do disparo. Tinha
20:54a rotina que atualizava as informações
20:56que apareciam na tela e várias outras
20:58rotinas que garantiam o bom
21:00funcionamento da máquina. Só que todas
21:02essas rotinas eram completamente
21:03independentes umas das outras e elas só
21:05trocavam informações entre si através de
21:08algumas variáveis globais que ficavam na
21:10memória RAM do PDP11. Uma dessas
21:12variáveis globais era uma variável
21:14chamada MS, que significa mod energy
21:17offset, que basicamente era a variável
21:18que dizia em qual modo de energia a
21:20máquina tava, se era o modo de elétrons
21:22ou se era o modo de raio X. E tudo
21:24funcionava mais ou menos assim. Quando o
21:26operador selecionava no teclado a letra
21:28E de elétrons ou X de raio X, a rotina
21:31que lia as informações do teclado pegava
21:33esse valor e atualizava a variável MOS
21:35na memória do PDP11. Com essa variável
21:38atualizada, a rotina que ajustava o
21:40disco do Tercia o valor da variável e
21:43girava o disco pro modo selecionado. Só
21:46que o problema é que o Tercva
21:488 segundos para girar o disco entre os
21:50modos de elétrons e raio X. E um erro na
21:53lógica do código que rodava nessa rotina
21:55fazia com que ela ficasse cega por 8
21:58segundos sem buscar qualquer atualização
22:00na variável Mus enquanto o disco estava
22:02girando. Então o que acontecia era que
22:04quando o operador selecionava um modo
22:05por engano, como foi o caso do Verdon
22:07Kid, onde foi selecionado o modo de raio
22:09X primeiro, a rotina do teclado
22:11atualizou o valor da variável MOS e a
22:13rotina do disco pegou esse valor e
22:15iniciou o processo de girar o disco pro
22:17modo de raio X. Só que nesse momento a
22:20rotina parava de buscar atualizações na
22:22variável por 8 segundos. A partir daí,
22:24quando a operadora corrigia o modo de
22:26operação pro modo de elétrons dentro da
22:29janela de 8 segundos, a rotina do
22:31teclado pegava essa informação e
22:33atualizava a variável sem problemas. Só
22:35que a rotina do disco ainda estava
22:37inoperante e não lia essa atualização. E
22:40era exatamente isso que fazia com que a
22:42máquina entrasse num estado
22:43inconsistente, onde o disco estava no
22:45modo de fótons, que era o modo mais
22:47extremo e potente da máquina. E na tela
22:49do operador aparecia que a máquina
22:51estava em modo de elétrons. E aí quando
22:52era iniciado o disparo nesse estado
22:55inconsistente, a máquina disparava a
22:56quantidade máxima de radiação em cima do
22:59paciente. E era isso que significava o
23:01mal Function 54. Inclusive, essa
23:03descoberta de Haigar também respondeu
23:05por que mais de 20.000 pacientes foram
23:08tratados com Terak 25 nos primeiros
23:10meses de operação sem nenhum tipo de
23:12problema. Isso acontecia porque os
23:13operadores ainda estavam se acostumando
23:15com a máquina e levavam mais de 8
23:17segundos para configurar ela. A partir
23:19do momento que eles começaram a se
23:20tornar mais experientes e mais ágeis com
23:23a máquina, a configuração passou a ser
23:25feita dentro da janela de 8 segundos e
23:27era isso que transformava o Ter 25 num
23:30canhão de radiação extremamente letal. E
23:33as coisas só pioraram daqui pra frente.
23:35Depois das descobertas de Freeze Haiger
23:37e também com as denúncias do grupo de
23:38médicos e físicos de outros hospitais
23:40que não paravam de chegar, o FDA
23:42imediatamente cobra soluções da SL, que
23:45por sua vez propõe simplesmente remover
23:48a tecla de seta para cima do teclado dos
23:51operadores e cobrir os contatos com fita
23:53isolante para impedir que eles façam
23:55edições rápidas na máquina. O FDA então
23:58considera essa resposta como sendo
24:00extremamente afrontosa e absurda por
24:02parte da SL e no dia 26 de maio de 1986
24:06declara o tercfeituoso,
24:08ordenando a desativação de todas as
24:10máquinas em território nacional e obriga
24:12a SL a entregar um plano de ação
24:14corretivo, conhecido como CAP, para
24:16solucionar todos os problemas com a
24:18máquina e resolver de uma vez por todas
24:22relatados. Então, em 13 de junho de
24:241986, a SL então entrega a proposta de
24:28ação corretiva ao FDA e nesse plano de
24:30ação incluíam 23 alterações de software,
24:33além das várias outras necessárias para
24:35corrigir o Malfunction 54, e incluíam
24:37também pelo menos seis recursos de
24:39segurança baseado em hardware que haviam
24:41sido exigidos pelos físicos. O hardware
24:43tradicional então da linha Terac 6 e
24:45Terac 20 agora seria implementado no
24:48Terc 25, que até então era única e
24:50exclusivamente controlado somente por
24:52software. O plano de ação então foi
24:54revisado duas vezes antes do final do
24:56ano pelo FDA para atender a todas as
24:58novas exigências rigorosas da federação.
25:01E em dezembro de 1986, a SL, com seu
25:04mais novo Ter, agora completamente
25:07reformulado e pronto para voltar a
25:08funcionar, consegue a autorização do FDA
25:11e retoma as operações normalmente e os
25:14hospitais introduzem novamente a
25:16utilização do TERAC 25.
25:23No dia 17 de janeiro de 1987, novamente
25:27no hospital do Vale do Yakim em
25:29Washington, um paciente chamado Glendod,
25:31de 65 anos, deu entrada no hospital para
25:34continuação do tratamento de um câncer
25:36localizado na região torácica. O
25:37tratamento planejado para aquele sábado
25:39era complexo e envolviam três etapas
25:41para uma exposição total de 86 r, onde a
25:44primeira etapa seria de quatro radios, a
25:46segunda de três rades e uma etapa final
25:48de 79 rosses restantes. A sessão então
25:51começou conforme o esperado e o operador
25:53administrou a primeira exposição de
25:55quatro rádios e a segunda de três rádios
25:57normalmente. Mas em que o operador
25:59inicia a exposição dos 79 rádios
26:01restantes, a máquina simplesmente não
26:03executa nada e entra em modo de pause.
26:05Acreditando que nada havia acontecido, o
26:07operador então segue o protocolo
26:09habitual e pressiona a tecla P para
26:11proceder com a operação. A máquina então
26:13entra uma segunda vez em modo de pause,
26:15só que agora exibindo uma mensagem de
26:17erro flatness. Nesse momento, pelo
26:19intercomunicador, o operador ouviu o
26:21paciente dizer alguma coisa, mas não
26:22conseguiu entender o que era. Mas quando
26:24entrou na sala, encontrou Glendod
26:26deitado no chão em agonia. relatando uma
26:28sensação de queimação profunda e que seu
26:30peito estava pegando fogo. E embora o
26:32console do operador indicasse que apenas
26:34sete rádios iniciais haviam sido
26:35entregues, após os exames realizados,
26:37foi constatado que Glendod recebeu entre
26:398 e 10.000 1000 rades diretamente no
26:42peito. O paciente faleceu dia 11 de
26:44abril de 1987 devido às complicações
26:47causadas pela overdose de radiação.
26:49Durante as investigações, foi revelado
26:51que diferente do erro Malfunction 54,
26:53que era um problema de estado
26:54inconsistente entre software e hardware,
26:56esse erro agora era novo e era
26:57ocasionado porque o programador usou uma
26:59variável de 8 bits para funcionar como
27:01um contador interno que era responsável
27:03por monitorar falhas de flatness, que
27:05basicamente eram verificações de
27:07uniformidade do feixe de radiação.
27:09Então, toda vez que a máquina detectava
27:11um problema de uniformidade, esse
27:13contador era incrementado em mais um
27:15para ir registrando os erros e só
27:17permitir o disparo do feixe quando o
27:19valor desse contador fosse zero, ou
27:21seja, sem nenhuma uniformidade. Só que o
27:23problema é que o programador usou uma
27:25variável de 8 bits para representar esse
27:27contador e uma variável de 8 bits só
27:29consegue armazenar valores que vão de 0
27:31a 255.
27:33Então, durante os ajustes da máquina, o
27:35contador ia sendo incrementado com cada
27:37uniformidade encontrada. Só que quando
27:39esse número chegava em 255 e era
27:41incrementado em mais um, a variável de 8
27:44bits não suportava o valor de 256 e um
27:47erro de overflow acontecia e o contador
27:49era zerado novamente. No momento em que
27:51esse contador era zerado, o Terc 25
27:53acreditava que tava tudo certo e
27:54descarregava uma tonelada de radiação em
27:57cima do paciente. Essa foi a última
27:59morte causada pelo Terak 25. E após o
28:01caso de Glendod, o FDA ordenou que todas
28:03as máquinas fossem retiradas de
28:05circulação e iniciou uma chuva de
28:07investigações contra a SL que começou a
28:09se afundar em processos judiciais. Só
28:11que o pior dessa história toda ainda tá
28:13por vir. E nas investigações foi
28:15revelado que todo o código que rodava
28:17dentro do Terc foi desenvolvido por
28:20apenas um único programador e sem nenhum
28:22tipo de revisão, testes ou controle de
28:24qualidade, um único programador
28:27escrevendo, mantendo e validando o
28:28código de uma máquina radioativa capaz
28:30de matar um ser humano numa fração de
28:32segundo. Há relatos de que esse
28:34programador teria deixado a SL antes de
28:36tudo vir a público e a sua identidade
28:38permaneceu em sigilo e nem mesmo os
28:40investigadores do caso conseguiram
28:41descobrir quem era esse programador.
28:43Inclusive, nenhum dos funcionários da
28:45SL, quando questionados sobre ele, soube
28:47fornecer informações sobre o histórico
28:49educacional ou a experiência desse
28:51desenvolvedor. Há rumores de que para
28:53reduzir os custos da SL, um dos próprios
28:56diretores da empresa acumulava o papel
28:58de desenvolvedor principal do sistema,
29:00algo que nunca foi provado formalmente,
29:02mas que circulava entre físicos e
29:04médicos dos hospitais afetados, como
29:06mais um sintoma do nível de negligência
29:08que cercava esse projeto. No fim das
29:09contas, o caso do Terc 25 terminou da
29:11pior forma possível, com zero
29:13condenações e ninguém sendo
29:15responsabilizado pela morte de nenhum
29:17dos pacientes, mesmo com todas as provas
29:19da negligência e da omissão por parte da
29:22SL. A empresa que antes era uma empresa
29:24estatal canadense foi rapidamente
29:26privatizada e trocou seu nome para
29:28Teratronics International Limitada e
29:30depois foi transferida para uma holding
29:32estatal canadense chamada Canadá
29:34Development Invest Corporation, uma
29:36manobra jurídica que dificultava e
29:38burocratizava ainda mais os processos
29:41judiciais que corriam contra a então
29:43desaparecida SL. Só que no final das
29:46contas, o que eu quero que você tire
29:47dessa história toda é que esse caso do
29:49Terak 25 não é só um caso sobre uma arma
29:52radioativa construída por um único
29:54programador ou de uma empresa negligente
29:56e omissa, que por conta da sua omissão
29:58matou diversas pessoas ao longo dos
30:00anos. O que eu quero que você tire daqui
30:02é que essa história toda, na verdade, é
30:04uma história sobre consequências. é
30:06sobre a consequência que existe em cada
30:08linha de código que a gente escreve sem
30:10perceber. Porque Uterak 25 não matou
30:13pessoas por causa da radiação. Ele matou
30:15pessoas porque alguém em algum momento
30:18decidiu que código sem revisão era
30:20aceitável, que código sem teste era
30:22aceitável e que uma máquina que controla
30:24energia suficiente para atravessar
30:26carne, osso e cérebro poderia depender
30:28única e exclusivamente da cabeça de uma
30:30única pessoa. Então, se existe uma única
30:33lição verdadeira nessa história inteira
30:35é essa. Você não escreve apenas código,
30:38você escreve consequências. E toda vez
30:40que você aceita um sistema sem teste,
30:43sem revisão ou com aquele "Depois a
30:45gente vê isso, você tá aceitando viver
30:47num mundo onde casos como Terc 25 são
30:50normais. E eu sei que para muita gente
30:52por aí, esse caso do Terque 25 é só mais
30:54uma história antiga, mas ela só parece
30:56antiga porque a gente gosta de fingir
30:58que hoje em dia é tudo diferente. Até a
31:02próxima.

About this transcript

This page contains the full transcript of O ERRO DE SOFTWARE MAIS LETAL DA HISTÓRIA | THERAC 25 by Renato Augusto, generated from the public captions YouTube serves with the video. The transcript has 5,466 words across 864 segments, with the original timestamps preserved so you can click any line to jump to that moment in the embedded player.

What you can do with it

Use the transcript to take notes, quote the speaker, build a study guide, generate a summary with ChatGPT or Claude via the YouTube Summary tool, or export it as a timed subtitle file with YouTube to SRT. You can also re-open it in the transcriber to translate the transcript into 100+ languages.

Free YouTube transcript tool

YouTube2Text is a free YouTube transcript generator — no signup, no daily limit. Paste any YouTube link and get the full transcript instantly, with timestamps, click-to-jump, translation to 100+ languages, AI prompts for ChatGPT, Claude, and Gemini, and exports to TXT, SRT, VTT, or Markdown.