Ensino SuperiorCálculo Numérico

Poste aqui problemas sobre assuntos estudados no Ensino Superior (exceto os cobrados em concursos públicos e escolas militares).

Moderador: [ Moderadores TTB ]

Avatar do usuário
Autor do Tópico
julilinnn57
iniciante
Mensagens: 3
Registrado em: Seg 31 Mar, 2014 14:53
Última visita: 29-03-16
Mar 2016 29 21:57

Cálculo Numérico

Mensagem não lida por julilinnn57 »

Considere as coordenas (x = 2,25mm; y = 2,6mm; z = 1,25mm). Sabendo-se que o sistema computacional que controla a máquina trabalha com número de ponto flutuante de precisão dupla (64 bits), usando 1 bit para sinal, 52 bits para mantissa e 11 bits para expoente; explique porque o ponto programado nunca será armazenado na máquina com 100% de exatidão.

Última edição: julilinnn57 (Ter 29 Mar, 2016 21:57). Total de 1 vez.



Avatar do usuário
dandbs89
iniciante
Mensagens: 1
Registrado em: Qua 30 Mar, 2016 20:47
Última visita: 30-03-16
Mar 2016 30 20:54

Re: Cálculo Numérico

Mensagem não lida por dandbs89 »

940343




Responder
  • Tópicos Semelhantes
    Respostas
    Exibições
    Última msg

Voltar para “Ensino Superior”