1. Этот сайт использует файлы cookie. Продолжая пользоваться данным сайтом, Вы соглашаетесь на использование нами Ваших файлов cookie. Узнать больше.

Floating point overflow!

Тема в разделе "Программирование", создана пользователем Черная злобная зверюга, 16.04.12.

  1. Черная злобная зверюга

    Черная злобная зверюга Активный участник

    9.957
    54
    В общем, имеется софтина, реализующая алгоритм регрессионного анализа с использованием комбинациё вшитых моделек типа уравнения Аврами-Ерофеева.
    Для софтинки рекомендована WinXP 32 бита, обязательно Pro
    Дома у меня Win7 Pro.
    Считает раза 4 по 49 итераций, потом начинает ругаться. Как ругается - в названии темы. Это слишком большое число при вычислениях? связано ли это с типом винды? И почему если один раз вылетела такая ерунда, то все последующие вычисления заканчиваются таким сообщением?Или invalid floating point operation?
    если комбинировать по 2 модели, то эпик фэйл приходит раньше....
     
  2. X-FI

    X-FI Активный участник

    3.949
    0
    Есть ли исходники этой программы? Замена float на double теоретически могла бы решить Вашу проблему.
     
  3. ab7

    ab7 Активный участник

    3.219
    10
    а может с типом процессора. у вас не амд случайно?
     
  4. The Last Winged

    The Last Winged Активный участник

    11.845
    54
    Ошибка не системная, а выдается логикой программы.
    Это однозначно ошибка в программе.
    Обратиться к разработчикам.
     
  5. Черная злобная зверюга

    Черная злобная зверюга Активный участник

    9.957
    54
    нет исходника, естественно. это коммерческий продукт.

    ---------- Сообщение добавлено 16.04.2012 09:02 ----------

    нет. core i3 540

    ---------- Сообщение добавлено 16.04.2012 09:03 ----------

    Угу....они мне приплачивать должны уже)))) сначала отловила баг в проге, считывающей данные с прибора, теперь - в моделирующей процесс...
     
  6. 1777

    1777 Активный участник

    6.530
    12
    это типа когда в переменную int16, которая допускает значения +/- 32768, попытаться записать 100500, явно косяк программистов, ни отчего не зависит, хотя можно попробовать на другой винде :d
     
  7. Черная злобная зверюга

    Черная злобная зверюга Активный участник

    9.957
    54
    Ну я думаю, это еще может зависеть от пользователя, который загнал исходные данные в модель не те. С другой стороны, могли и прописать ограничения. Ну да ладно, завтра представители к нам приедут, пообщаемси)))
     
  8. The Last Winged

    The Last Winged Активный участник

    11.845
    54
    Не может, если программа без такой ошибки.
     
  9. Черная злобная зверюга

    Черная злобная зверюга Активный участник

    9.957
    54
    Ну, в общем сказали - заплатка уже есть. Скоро пришлют)))