По вашему вопросу:

1) Проинициализируйте глодальные переменные в начале скрипта, например так:

High = -1
Low = 10000000

2) В функции math.max и math.min надо передавать несколько аргументов (хотя бы 2), из которых и будет выбираться максимум/минимум. Например, поправить код функции extreme() так:

function extreme()
   trades={}
   dlt = getNumberOf("all_trades") - prev_value()
   m = getNumberOf("all_trades")
   for i=m-dlt, m-1 do
     trades=getItem("all_trades", i)
     price = trades.price
     High = math.max(price, High)
     Low = math.min(price, Low)
   end
   message(" value2=High: " .. tostring(High) .. " Low:" .. tostring(Low), 2)
end

За одно вынес из цикла message, зачем он там, пусть печатает только один раз результат после пробега по очередной порции всех сделок.

PERIOD = 15  -- период обновления, в секундах

function ReadLogFile()
  nnn = 0
  message("Readed " .. tostring(nnn) .. " record(s)")
end

function OnInit(path)
  scriptPath = path
  logFileName = scriptPath .. ".log"
  is_run = true
  message("Start " .. logFileName)
  ReadLogFile()
end

function OnStop()
  is_run = false
end

function prevAllTrade()
    local _prev=getNumberOf("all_trades")
    return function ()
        local ret_value = _prev
        _prev=getNumberOf("all_trades")
        return ret_value
    end
end
prev_value=prevAllTrade()

function extreme()
   trades={}
   dlt = getNumberOf("all_trades") - prev_value()
   m = getNumberOf("all_trades")
   for i=m-dlt, m-1 do
   trades=getItem("all_trades", i)
    price = trades.price
        High = math.max(trades.price)
        Low = math.min(trades.price)
    message(" value2=High: " .. tostring(High) .. " Low:" .. tostring(Low), 2)
    end
end

function main()
  while is_run do
    local n = PERIOD
    prevAllTrade()
    extreme()

    while (n > 0) and is_run do
      sleep(1000)
      n = n - 1
   end

  end
end

подскажите в каком направлении искать.

Т.е. надо изменить формат задания исходного списка на какой-то такой:

SEC = {
{"APTK" = "EQNL"},
{"AVAZP" = "EQNL"}
}

Да, такой формат как раз позволяет сохранить порядок размещения элементов в таблице (массиве). Только в синтаксисе ошибочка. Надо так:

SEC = {
{["APTK"] = "EQNL"},
{["LKOH"] = "EQBR"},
{["AVAZP"] = "EQNL"}
}

(обратите внимание, внутри после } везде стоят запятые, кроме последней строчки!)

Цикл поправить так:

function OutSpreadToLog()
  local file = io.open(logFileName, "a+t")

  local i,sec,n,dat
  for n,dat in ipairs(SEC) do
    sec,class = next(dat)

    local qt = getQuoteLevel2(class, sec)
    if ((qt.bid_count+0 > 0) and (qt.offer_count+0 > 0)) then
.............

Никакого end добавлять уже не придется, т.к. никакого нового цикла не добавляем, он не нужен.

for i=0,#SEC do
      message(SEC[i],1)
end

у вас не так?

в коде автора я менял только строчку финального вывода в файл и у меня бот обращается к ТТП а не к стакану.

function AnIndexOf(t,val)
    for k,v in ipairs(t) do 
        if v == val then return k end
    end
end

....

for i=0,#SEC do
      message(SEC[AnIndexOf(SEC,SEC[i])],1)
end

может имелось в виду такое, или я уже спать хочу и думаю не в ту сторону

О! в тырнетах попалось с ходу [url=http://ilovelua.narod.ru/about_lua.html]следующее[/url]:

Т.е. надо изменить формат задания исходного списка на какой-то такой:

SEC = {
{"APTK" = "EQNL"},
{"AVAZP" = "EQNL"}
}

т.е. преобразовать в массив таблиц, вероятно он будет перебираться циклом for ... in pairs согласно изнчально заданной последовательности.

Я вот только не соображу как теперь цикл подправить-то...

Вот такой вариант, думаю, сработает, но наверняка есть изящнее решение.

function OutSpreadToLog()
  local file = io.open(logFileName, "a+t")

  local i,sec,e1,e2
  for e1,e2 in pairs(SEC) do
  for sec,class in pairs(e2) do

    local qt = getQuoteLevel2(class, sec)
    if ((qt.bid_count+0 > 0) and (qt.offer_count+0 > 0)) then
.............

(поправленные строчки выделил)
Ну и соответственно вставить перед   file:write("---\n")  еще один end.

Сразу скажу - не проверял, за работоспособность не ручаюсь.

for i=0,#SEC do
      message(SEC[i],1)
end

у вас не так?

SEC["APTK"] = "EQNL"
SEC["AVAZP"] = "EQNL"
SEC["BSPB"] = "EQNL"
SEC["GAZP"] = "EQNE"
SEC["HYDR"] = "EQBR"
SEC["KMAZ"] = "EQBS"
SEC["LKOH"] = "EQBR"
SEC["LSNG"] = "EQNL"
SEC["MAGN"] = "EQNL"
SEC["MRKK"] = "EQNL"
SEC["MSRS"] = "EQBR"
SEC["OGKB"] = "EQBR"
SEC["OPIN"] = "EQNL"
SEC["RASP"] = "EQNL"
SEC["RTKM"] = "EQBR"
SEC["SBER"] = "EQBR"
SEC["SNGS"] = "EQNL"
SEC["SNGSP"] = "EQNL"
SEC["SYNG"] = "EQNL"
SEC["TGKA"] = "EQBR"
SEC["TGKE"] = "EQNL"
SEC["TGKF"] = "EQNL"
SEC["TRMK"] = "EQBR"
SEC["URKA"] = "EQBR"
SEC["VTBR"] = "EQNL"
SEC["VZRZ"] = "EQBS"

Почему в итоговом файле они идут вразнобой?

AVR_APTK=0.2068627406292
AVR_OGKB=0.16652977902568
AVR_VZRZ=0.32100360912737
AVR_RASP=0.11919033845793
AVR_URKA=0.058398588662547
AVR_LKOH=0.024594674588463
AVR_AVAZP=0.27888853122047
AVR_SNGSP=0.05923011085541
AVR_LSNG=0.70180301215612
AVR_TGKE=0.53887543384184
AVR_TGKA=0.32988383264019
AVR_TRMK=0.44494026965039
AVR_MSRS=0.86604488170569
AVR_TGKF=0.5589009518343
AVR_OPIN=1.5116186775737
AVR_MAGN=0.068115489441876
AVR_HYDR=0.029428833146793
AVR_VTBR=0.027005381309969
AVR_SYNG=0.8848156772472
AVR_RTKM=0.066976460702493
AVR_SBER=0.013652757755115
AVR_BSPB=0.14493702671554
AVR_SNGS=0.049061792735469
AVR_KMAZ=0.34151044356869
AVR_GAZP=-0.00053292169463214

Как сделать так, чтобы они шли в том порядке, который я им задал?

да, именно так. Вы и сами догадались )

      local tablebid = getParamEx(class,  sec, "bid")
      local bid=tablebid.param_value
      
      local tableoffer = getParamEx(class,  sec, "offer")
      local offer=tableoffer.param_value

появляется ошибка:
attempt to perfom arithmetic on local "offer" (a table value)

как с этим бороться?
Добавленные строчки я стянул из документации, там они есть в чистом виде.
Почему offer стал табличным значением?

у вас offer -  это таблица(скорее всего как массив с параметрами qty,price), посмотрите описание функции getParamEx

как с этим бороться?
Добавленные строчки я стянул из документации, там они есть в чистом виде.
Почему offer стал табличным значением?